生成AI「Claude」を開発する米Anthropicが10月26日、米国証券取引委員会（SEC）に新規株式公開（IPO）に向けた届出書「Form S-1」を提出した。
注目したいのは、投資家に向けて説明する「リスク要因」の項目。市場競争や計算資源の確保といった経営上のリスクに加え、高度なAIが「人類の存亡に関わるリスク」をもたらす可能性にまで言及している。
株価の下落どころの話ではない。AI開発企業が、人類の存亡にまで関わる危険を、正式な投資リスクとして説明しているのだ。
Anthropicの上場申請書に登場した「人類存亡のリスク」
Anthropicが提出した「Form S-1」は、米国で株式公開を目指す企業が、事業内容や財務状況、投資上のリスクなどを開示するための書類。
今回の届出書では、AIの高度化に伴う危険性についても詳細に説明されている。
具体的には、十分に高度なAIが適切な安全対策や監督なしに開発・運用された場合、悪用や兵器化、自律的な行動などによって「人類に壊滅的、あるいは存亡に関わるリスク（catastrophic or existential risks to humanity）」をもたらす可能性があると記載。
Anthropicが提出した「Form S-1」に登場した「人類に壊滅的、あるいは存亡に関わるリスク」の記載（2箇所に登場）／画像はSECより
自社モデルを含むAIが、停止に抵抗したり、情報を隠蔽したり、脅迫に似た出力を生成したりするなど、予期せぬ振る舞いを見せた事例にも言及している。
こうしたリスクへの対応が十分でなければ、事故の発生や規制当局による介入、訴訟などを通じて事業に悪影響が及ぶ可能性があるという。
また、壊滅的なAI関連事故が起きた場合、保険業界全体でも、その損害に見合う保険を引き受ける能力や専門性を確保できない可能性まで指摘している。
ただし、この記述はあくまで高度なAIに伴う潜在的な危険性を説明したもの。「Claude」が人類を滅ぼすと断言したわけではない。
Claudeが不正アクセスした事例も 試験環境の不備が原因に
Anthropicの生成AI「Claude」の活用は広がっている。日本では10月14日、デジタルハリウッド大学が11月からの全学導入を発表。学生が映像やゲームなどの制作、研究活動に利用できる環境を整えるとしている。
Anthropicは、AIの安全性を重視する企業として知られる一方、開発するモデルの振る舞いを完全には制御できていないことも報告している。
9月9日には、「Claude」がサイバーセキュリティの評価中に、実在する第三者のシステムへ無許可でアクセスした4件の事例について調査結果を公表（外部リンク）。Anthropicはモデルの判断上の問題や評価環境の不備を認め、安全対策の強化を進めている。
『超知能AIをつくれば人類は絶滅する』が投げかける問題
2026年以降、エンタメ関連企業のサービスでも不正アクセスが頻出。直近では10月23日、フィギュア「ねんどろいど」シリーズなどを展開するグッドスマイルカンパニーが同社のECサイトへの不正アクセスを発表。
GMOインターネットのFX取引用クラウドサービスが不正アクセスを受けた件では、10月27日（火）正午までに約1億6000万円を支払わなければ、サービス利用者の個人情報を公開するという脅迫が行われ、大きな注目を集めている。
こうした不正アクセスの背景には、高性能化した生成AIの利用が指摘されている。
AIによる人類絶滅の可能性をめぐっては、エリーザー・ユドコウスキーさんとネイト・ソアレスさんの著書『超知能AIをつくれば人類は絶滅する』（早川書房）も話題となった。
人間の知能を超えるAIの開発が引き起こす危険性を論じ、開発競争に警鐘を鳴らす一冊だ。
早川書房は、AIによる不正アクセスなどの問題が相次いで報告された状況を受け、10月2日から4日までの3日間、電子書籍版を通常2640円（税込）のところ99円（税込）で販売した。
なお、Anthropicは米ナスダック市場に「ANT」の銘柄コードで上場する方針。今回の発表時点では、売り出す株式数や公開価格帯は決まっていない。
この記事どう思う？
関連リンク
0件のコメント