画像生成AI「Stable Diffusion」が“性的に露骨なコンテンツ“の生成を禁止へ

  • 0
Yugaming
画像生成AI「Stable Diffusion」が“性的に露骨なコンテンツ“の生成を禁止へ
画像生成AI「Stable Diffusion」が“性的に露骨なコンテンツ“の生成を禁止へ

Stability AIの発表した新たな利用規約/画像は筆者撮影

画像生成AI「Stable Diffusion」を開発するStability AIが、利用規約を改定し、性的に露骨なコンテンツへの使用を禁止すると発表した。

7月9日までに公式サイトで利用ポリシーを更新し、性交/性的暴力/全裸を含むコンテンツの生成を禁じる条項を新たに明記している。

商用/非商用を問わずに利用される画像生成AI「Stable Diffusion」

「Stable Diffusion」はテキストから画像を生成できるAIモデルとして2022年に登場。商用/非商用を問わず多くのユーザーに利用されている。

最大の特徴はローカル環境での運用が可能であり、オープンソースで誰でもアクセスできる点にある。しかし、その自由度の高さゆえに、悪用される懸念も絶えなかった。

特に児童や実在する特定人物のディープフェイク画像、そして非同意での性的コンテンツ生成とそれよる被害が社会問題化しつつあり、欧米などを中心に規制強化の声も高まっていた。

ローカル環境での運用にも規約は適用──ただし実効性には疑問も

今回の改定では、「性交、性行為、または性的暴力に関連するコンテンツ」を含むコンテンツが明示的に禁止対象として列挙されている。対象には、Stability AIを非営利目的/研究目的/商業目的で利用することが含まれる。

前述の通り、「Stable Diffusion」はローカル環境での運用が可能。

Stability AIは今回の規約改定において、「自分の環境でStability AIのプログラムやAIモデルを動かす場合(self-hosting)や、第三者が提供するサービスを通じてStability AIの技術にアクセスする場合などが該当します」と明記している。

とはいえ、実際にローカル環境に対して、規約違反を検出することは技術的に困難であり、規制の実効性には限界がある。

生成AI、二次創作や成人向けコンテンツでも強い存在感

生成AIの規制をめぐっては、アーティストの創作活動や表現の自由との関係も争点になっている。

すでに二次創作文化や、成人向けコンテンツの創作においても、生成AIは大きな存在感を示しており、その使い方や関わり方も重大な論点となってきた。

一方で、AIによって生成された画像が倫理や法のグレーゾーンを侵した場合、誰が責任を負うのかという問題は依然として未解決のままだ。今回発表された利用ポリシーは7月31日(木)に施行される。

この記事どう思う?

この記事どう思う?

生成AIを巡る各産業の動きを確認する

FANZA史上最も売れたAIエロ漫画『バ先のパート主婦』誕生秘話──脱サラした作者の素顔

FANZA史上最も売れたAIエロ漫画『バ先のパート主婦』誕生秘話──脱サラした作者の素顔

41歳の主婦が、今漫画関係者を騒がせている。『バ先のパート主婦(41)を家に連れ込んだら10年ぶりの◯◯◯◯◯◯◯◯◯◯◯◯』(伏せ字は編集部)。2025年1月にアダルト作品販売プラットフォーム・FANZAで発売されたエロ漫画であり、生成AIによって制作されたことが明言されてい...

premium.kai-you.net
世界一使われた“美女AIモデル” 制作者の素顔 「文化発展のため」に果たす責任

世界一使われた“美女AIモデル” 制作者の素顔 「文化発展のため」に果たす責任

5月某日、渋谷にある社内のミーティングスペースに、スーツ姿の男性が大きなキャリーバッグを引いて現れた。「家が地方なんで。いま、取材や商談が色々あって東京に来てるんですよ」と、開口一番、溌剌とした口調で話してくれる。手際良く荷を解いて机の上に広げられ...

premium.kai-you.net

関連キーフレーズ

0件のコメント

※非ログインユーザーのコメントは編集部の承認を経て掲載されます。

※コメントの投稿前には利用規約の確認をお願いします。