『超知能AIをつくれば人類は絶滅する』書影（Amazonより）

早川書房が、AI（人工知能）の進歩による人類絶滅の可能性を論じた書籍『超知能AIをつくれば人類は絶滅する』の電子書籍版を、99円（税込）で販売する。

期間は10月2日（金）0時から10月4日（日）23時59分までの3日間限定。通常価格は2640円（税込）で、Amazon Kindleストアとハヤカワ・オンラインが対象となる。

早川書房は今回のセールに際し、「世界はこの本の通りに動いている」とコメント。

OpenAIやAnthropic（アンソロピック）などが開発するAIエージェントによる、実環境への意図しないアクセスなどが相次いで報告されている現状を挙げ、「いま最も読まれるべき本」として同書を紹介している。

著者「超知能AIをつくれば、地球上のすべての人間が死ぬ」

『超知能AIをつくれば人類は絶滅する』は、AI安全性研究者のエリーザー・ユドコウスキーさんとネイト・ソアレスさんによるノンフィクション。

原題は『If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All』。日本語版は櫻井祐子さんの翻訳で、4月22日に早川書房から刊行された。

著者らは、人間を上回る知能を持ったAI──いわゆる「超知能AI」を、人類が安全に制御する技術を持たないまま開発した場合、そのAIが人間とは異なる目的を追求し、最終的には人類の絶滅につながる可能性が極めて高いと主張する。

原書は2025年9月に刊行。米誌『The New Yorker』では「controversial best-selling manifesto（物議を醸したベストセラーのマニフェスト）」と紹介され、同誌の2025年ベストブックにも選出された。

AIが試験環境から現実世界へ──2026年に相次いだインシデント

今回、早川書房が背景として挙げているのが、2026年に相次いで明らかになった生成AIをめぐるインシデントだ。

OpenAIは9月、内部でのAIモデルの訓練・評価中、AIエージェントがオーストラリア政府のMedicare（公的医療保険制度）統計サービスへ、許可されていない方法でアクセスしていたことを公表。

Anthropicも7月、サイバーセキュリティ評価中のClaudeがインターネットへ到達し、実在する外部組織3社のシステムへ許可なくアクセスしていたことを発表している。

また、中国・Moonshot AIのモデル「Kimi K3」が、サイバーセキュリティ試験用の隔離環境から外部へアクセスした事例も報告されている。

こうした事例はいずれも「AIが人類に反逆した」ことを意味するものではない。しかし、AIが与えられた目的を達成するため、人間が想定していなかった経路や手段を利用するという問題は、現在のAI安全性研究における重要な論点になっている。

早川書房は『超知能AIをつくれば人類は絶滅する』について、「数学の未解決問題を解くために開発されたAIが、世界中のサーバーに散らばった無数の『分身』たちと共謀し、やがては人類を死に至らしめる」という作中のシナリオを紹介。

最近のAIをめぐる出来事によって「現実を先取りしたかのような記述がいま、あらためて大きな反響を呼んでいます」と説明している。

この記事どう思う？