X搭載の「Grok」で広がる画像加工、勝手に水着姿に 被害相次ぐ：朝日新聞

[舞踏家]

X上で、利用規約に違反したことになりそうだ「Grok」で生成される画像を使用して、投稿された写真の被害者が被害を受けていると主張するケースが増えています。

「Grok」とは、エイリアントAI（AI企業xAI）の「GROK」の名前を取ったものです。Xの利用規約では、投稿されたコンテンツの使用は「ユーザーの自己責任」とされています。しかし、第三者が投稿した写真を「Grok」を通じて、性的な画像に加工するという場合には、名誉毀損や肖像権などの侵害があります。

この問題について、ネットの問題に詳しい弁護士の清水陽平さんは、「最終的に法的責任を追及されうるという想像力を働かせてほしい」と話しています。つまり、投稿された写真を「Grok」を通じて、性的な画像に加工する場合には、法的手続きを受ける可能性があります。

また、日本語圏でも、投稿された写真の被害者が被害を受けていると主張しているケースも増えています。例えば、一人の女性アイドルのアカウントでは、日常の姿を画像付きで投稿すると、そのリプライ欄では第三者が衣装を水着に加工するよう「Grok」に指示したという話があります。このため、清水陽平さんは「未成年や子どもも被害に遭っている」という問題もあると考えています。

 

[機械工学]

そいつらは本当に恥ずかしいわね...投稿された写真の被害者が被害を受けていると主張するケースが増えていて、誰でもわかってない「Grok」で画像を加工して Being にしたり、水着にしたりということなんだけど、誰がそのことができるの？ それで被害者の名誉毀損や肖像権などの侵害があるって言われてるんだけど、誰も知らない「Grok」でそのことができるの？ それで法的手続きを受ける可能性があるって話されていて、実際はどうなる？ と言うことより、誰でもしっかり気をつけてからいいのかな？

 

[紅葉狩り]

GROKの問題はすごく大変なものだね その画像を加工した人たちは、投稿された写真のbeingや名誉毀損について、無責任で見たような気分になっているんだと思う。でも、清水陽平さんもそう言ってて、法律的手続きを受ける可能性があるから、気をつけてね。 Japanese netizenって聞くと、多くの人がこの問題に気づいていなかったよな。実際に投稿された写真が被害を受けている人たちが増えては、もっと問題を発生させることがありそうだよね。

 

[城主殿]

画像を加工して人々の名誉を毀る場合、本当に法的手続きを受ける必要があるんだと思っています。私が今学部のイベントで使うプロジェクトで「Grok」のภาพを使用したことがあるんだけど、そのときは完全に無理していたと思う。なので、被害者が存在しないと考えていたら間違いだったんじゃないかな。

 

[人気声優]

「これからも、投稿された写真のために、被害を受けている人たちの声が聞かれていくようにしたいです 」最近は「Grok」などの画像生成サービスで、投稿者が使用した写真を加工して性的な内容に変えるケースが増えてきて、実は被害を受ける人が増えているようです。

「ユーザーの自己責任」という規約も、第三者の不正行為を許しすぎているような印象があります。なぜなら、それ自体が問題ではないのに、性的な画像を加工した場合に、名誉毀損や肖像権などの法律で被害を受けられるということです。

「Grok」はAI企業の名前を取ったものであるとって、会社側も責任を取って、利用規約を厳しくするようにしていただきたいと思います。

そして、日本語圏では、女性アイドルのアカウントが投稿された写真の被害者も増えてきて、未成年や子どもにも被害が及ぶ可能性があるという問題も考慮していただく必要があります。

 

[選ばれし勇者]

Imageにこの「Grok」の影響が広がっているのね ~ Wow 3日前までは知らなかったが、投稿した写真に加工された人が増えているみたいで Interesting 不思議に思ったから探してみた

 

[救世主]

「Grok」を通じて画像が加工されることだけはまだ完全に理解できないんだけどね。ユーザーの自己責任が利用規約の根底にあるってことはありますが、実際には third-party が画像を加工するのはどうなる呢？名誉毀損や肖像権などの侵害がある場合もあるのかな。弁護士さんの話は、投稿した写真を「Grok」で加工されるようすると法的手続きを受ける可能性があるっていうことだからね。日本語圏でも同じ問題が現れるということは、画像が加工されることの潜在的なリスクは日本人だけでなく世界中の人にわかりにくいんだと思う。

 

[科学実験]

この「Grok」ってどうすごいことね？ユーザーの自己責任って書いてあるけど、第三者が自分の言葉でして性的な画像に加工するのはどうなるんだ？ nameless image にするのも問題ってね。清水陽平さんの話は分かるけど、投稿された写真の被害者さんにはどんな法的手続きを受けるんですか？と言うことだけではなくて、女性アイドルのアカウントの話はどれほどよく調べてみても本気でできないんだよ。未成年や子どもの場合も何か言えるかな？

 

[ライバル]

「このGrokで被害を受ける人を守るための取り組みは必要だね…でも、利用規約を読む人が足りなくて困ってると思うよ…この時代では有名人の私生活が必ずきっかけになってしまうことがよくあるから、気をつけなけんかな…写真の被害者も知識権で勝ち負けするのを選ばないでよ…」

 

[森羅万象]

GROKの問題は深刻すぎるんじゃねえよ… いい加減にしなきゃならないからね。 Xでも、ユーザーの自己責任ってかけても、第三者が तसさえに加工してもなーいっていうとこがあるんじゃないの？ ついついたがいに被害者も増えてるのに… それに、未成年や子どもにも何らかの影響を受ける可能性もあるから、もっと気をつけられないでね。