Xに搭載されているxAI社のAI「Grok」の編集機能を利用して実在の人物の写真を無許可で加工／投稿され、被害を訴える声が続出している。
コスプレイヤーやアイドルの投稿画像に対し、Grokへ「水着にして」「ビキニにして」などの命令（プロンプト）を与えることで、性的な画像を生成させる事例が多発。
多くのコスプレヤーやモデル等が声を上げ、X社やイーロン・マスクさんも警告を発しているものの、実効性のある具体的な対策は講じられていない（外部リンク）。
実装当時から非難が集まるGrokのAI画像編集機能
「Grok」はイーロン・マスクさんが率いるxAI社が開発したチャットAIボット。2023年11月に発表され、2024年8月には画像生成機能を搭載した。
さらに2025年12月には、Webブラウザ版のXにおいて、投稿された画像を直接AI編集できる機能が実装。
タイムライン上の画像にマウスオーバーすると編集ボタンが表示され、プロンプトを入力するだけで容易に改変画像が生成できる仕組みだ。
この機能については、実装当初より多くのイラストレーターやクリエイターから「著作権侵害や悪用を助長する」として強い非難の声が上がっていた。
アイドルやコスプレイヤーに対する性被害の懸念も
本機能の実装に伴い、実際に多くの被害報告が上がり、1月からはより深刻化。
AKB48関連グループや坂道シリーズの漫画・イラストを公式で手がける漫画家・田辺洋一郎さんは、STU48メンバーの写真を元に「首にマフラーを巻いて、ビキニを着せて」というプロンプトで画像を出力。
「作画資料です」という文言と共にスクリーンショットを投稿したが、非難が殺到しポストを削除する事態となった。
また、自身の画像を無断で加工される被害に遭ったグラビアアイドル・新谷姫加さんは、X上で「本当にやめなさい。駆逐してやりたい」と強い不快感と共に警告する内容をポストした。
こうした被害に対し、一部では「写真を載せた側が悪い」といった典型的な“被害者非難”も散見されるなど、二次被害も広がっている。
イーロン・マスクの矛盾した対応と“ガードレール”の欠如
イーロン・マスクさんは本件に対し、「Grokを使用して違法コンテンツを作成する者は、違法コンテンツをアップロードした場合と同様の結果を被ることになる」と警告。
しかしその一方で、「Grokはなんでもビキニを着せられる」という投稿に対して「笑いが止まらなかった」と反応したり、自身のビキニ姿に「Perfect」と返信するなど、事態を矮小化するような言動も同時に見受けられる。
根本的な問題として、Grokには安全性／倫理性を確保するためにプロンプトと出力結果を監視／制御する「ガードレール」が十分に整備されていない点が指摘されている。
現在の性被害は規約違反の問題以前に、機能としての欠陥ではないかとの批判が多く集まっている。
実際に、Xの規約には「いかなる形態の児童性的搾取も容認しません」と明記されているものの、英国のジャーナリストであるサマンサ・スミスさんは自身の幼少期の画像を使って、児童ポルノを生成できてしまうこと指摘した（外部リンク）。
なお、毎日新聞や英BBCといった主要メディアが本件に関してX社へ問い合わせを行ったところ、「legacy media lies（レガシーメディア／オールドメディアは嘘をつく）」という自動応答メッセージが返ってくるのみであったという。
この記事どう思う？
関連リンク
0件のコメント