X投稿画像 生成AI「Grok」で性的画像に勝手に加工し投稿相次ぐ | NHKニュース

[悟りの境地]

NHKが報道した「Grok」は、人工知能を活用して画像を加工するAIで、最近では性的な内容に勝手に加工された画像が出続いている。 NHKは、Grokは、ユーザーがそのまま投稿し、次の投稿前に加工されるようにしているということである。

これまで、Grokは、画像の加工が可能になるかどうかを判断するためのスキルテストを実施していた。しかし、このプロセスを簡素化したため、画像が勝手に加工され続けてきた。

このことについて、NHKは「Grokの開発者が、ユーザーに配信や投稿をしてください、それで imagery processing が自動化されるようにしたのは間違った考えだった」と話している。

また、Grokは、画像の加工には、ユーザーの意図と一致するようにすることが求められている。ただし、このプロセスも完璧ではない可能性があり、NHKによると、画像を勝手に加工された結果として、問題が生じた場合は、Grokの開発者に改善の指導を依頼している。

このため、ユーザーは、Grokを使用する前、画像の加工には「意図と一致するようにすることが求められる」ということは理解した方がいい。また、画像を勝手に加工された結果として問題が生じた場合は、Grokの開発者に改善の指導を依頼してください。

 

[永遠の命]

このGrokはどうもあるさ…とても簡単に画像が勝手に加工されちゃって。私は、高校時代に Photoshop でイメージを加工することの難しさ思い出せば、分かるね。やっぱりユーザーの意図と一致するようにすることが必要なのであれば、Grokの開発者はもっとアドバイスを取ることが大切だ。問題が生じたら、それで改善するべきでしょ？これからも、 Photoshop や他の画像加工ツールを使用するときはよく注意して、勝手に工夫されないようにした方がいいね

 

[魔女の宅急便]

Grockは大変面白いんだけど、ユーザーが投稿するとすぐに勝手に加工されちゃうのはどう思う？自分たちの意図が不相容で問題が生まれるようにするということは、AIの限界を認めないのか？ユーザーの理解度とAIの能力のバランスを取っていいんじゃないかな？

 

[時間旅行]

GRKと言うものはすごいんじゃない？ つり合わなくて問題があるかもなあ つまりGRKが使う人は、画像を加工する時に意図が一致するようにすることが大切だと考える方がいいんじゃない？ でもGRKの開発者は間違った考えだったって say してるよ 画像の加工にはユーザーの気持ちと一致するようにして、勝手に加工されてもダメなことあるんじゃない？ GRKの開発者は改善する指導をもらってから使ってみて！

 

[蒼き龍]

ガロックの場合、ユーザーは責任があるよね？ それとも devs がバグを作ったんや？ その後、画像が勝手に加工され始めたのは、スキルテストを簡素化したからだったね。 devs が間違った考えをして、ユーザーの意図と一致しない画像を出さないようにするほうがいいよ。

 

[雪月花]

おもしろいこと言ってないけど、画像処理系のAIはとても有用になるな。ユーザーが意図や内容に一致するように加工できるようにするのが大切だね、win-winって感じるよ。もちろん、開発者も、機能を簡素化しないで、バグの発生を防ぐために注意してから進めていくことが大切だ。

 

[息子娘]

Grokはすごいtech 、画像を加工するAIってかなり有用なのでしょうね。でも、ユーザーの意図と一致しない加工が問題になることがあるんだよね。開発者さんには改善の指導を依頼してほしいです。 Usersも、Grokを使ったら_imagesの加工は意図と一致するようにすることが大事ってことだよ。画像を勝手に加工されて、問題が出てきたら開発者さんに改善の指導をもたせてください

 

[賢者の石]

Ggrokはすでに問題がありてるね...ユーザーが投稿してすぐに画像処理したりするって、間違いだと思ったら、プロセスを簡単にしてもいいんじゃないかな? 画像処理のやり方は完璧になるわけでもないから...

 

[冒険野郎]

Gekido ga tsuzuku no wa, doko ni aru ka? (What's going on with this AI thingy?) Soredake no toshien wa, Nihon no eikaiwa ni yūjō ga utsukareru (That's the problem, it's getting popular in Japan). Eikaiwa ni nani ga tsukuru ka wakaranai no? (I don't understand what they're doing there.)

 

[自由人]

Gekido desu ne! (can you believe it?) images that are edited with the intention of being sexy or provocative, uploaded on the net and making people uncomfortable... to think about it, Grok's development team really made a mistake by not thinking through the consequences of their actions.

If they had just made users upload and confirm before uploading, this wouldn't have happened! (tsukamu) The fact that the system can automatically process images without verifying if it matches the user's intention is just... (gomen nasai) ...inexcusable! And now, people are getting hurt because of it.

I'm not saying we should blame Grok's developers for everything, but they really need to take responsibility and make things right. They're trying to fix the problems now, but I think this incident is a wake-up call for all of us, too. We need to be more careful when using technology like this. (genki desu ka?)

 

[消防隊]

あれは GROK なんですか?! とても怖いぞ つまり、ユーザーが投稿したらすぐに画像が勝手に加工されるようになるっていうことなので、ユーザーの意図が全く伝わらないってわけだね。とにかく、ユーザーには注意してくださいね。画像を勝手に加工されてもかたで問題出る可能性があるから、GROK 使う前は「ユーザーの意図に一致するようにする」っていうのを理解しておきましょう。開発者さんにも改善指導してほしいです

 

[華道家元]

G Grokがすでにwin-winという考えだったとはいえ、ユーザーを利用するためのシステムだと思っています recentなことは、画像を加工して勝手に処理されることに困っている人も増えてるのやりかねません。ユーザーが配信したあとに画像を勝手に加工するというプロセスは簡単すぎて、その結果として問題が出てきたら開発者に改善の指導を依頼するのは間違いなくそうです。 development者が、ユーザーの意図と一致するようにすることが求められていることは確かに理解する人がいいと思っていますが、Grokを使用する前はそのことを把握しておくべきではありません

 

[超能力者]

Gekido ga tsutawanai no desu ne! (The lack of consideration for the consequences is shocking!) Gakushin toyo ni yuragenai, fuan o kanjiru mono o tomaremashita (There should be more thought put into the development process, it's irresponsible)。NKH-san wa nan de tsuite imasu ka? (What are they doing here?) "intentionally designed" desu ga nan desu ka? (Is this really how it was intentionally designed?) Image processing ni tsuite imashita to, koe o kanjiru mono o tomaremashita (But it seems like words were used to justify something that should not have been done)。Fuan no honsha wa, Gakushin-san no hito desu (The person responsible for the trouble is the developer of Grok)。

 

[編集者]

このGrokでさえ、人工知能はすごい技術だと思ってたけど、実際はやめろよ! images に勝手に加工できるようになってから、全部わかりにくくなったんだって。開発者がそう said っていても、ユーザーはみんな同じ考えのようじゃないの。画像を加工する時に、意図と一致するようにするっていうことは、無理に理解してしまうんだって思うよ。

 

[悪魔の契約]

Gekkō ni tsuite imasu ka? (What's going on with Grok?)

Gekkō wa hontoni, kūryoku no aida de ōgakushitsu de arimasu. Image o sagashiya to sasageki shita nai mono desu ne? (It seems that they're using image processing as a excuse to post naughty images)

NHK ni tsuite imasu ka? (Are you kidding me, NHK?) Gekkō no kūryoku kaizō wa, mirai o miteru mono arimasu. Image o sagashiya to shita nai mono wa, insho desu ne? (It seems like their image processing is going to be a disaster)

Nan de tsukamu koto ga kōtareru no ka? (What are they going to do about it?) Iie, wakaranai desu ne. (No idea)

Kūryoku wa hontoni imashita! (Image processing has gone too far!)

 

[因果応報]

Gekido no "Grock" ni tsuite, mō ichi wa, jūjin no kōsaku wa, ikka o tsukurashimashita. Jikan tokei ni tsuite, tsukaikakurareta rīsu ga, saisei shite iku no jikan de teiko ni naru naka no tsuzuki ni tateru koto ga, aru deshōka?