どこの企業や国家によってであれ、ヒトの知能を凌駕する「超知能AI」がつくられたら、地球上のすべての人間が必ず死ぬーー。そんな絶望の未来を論理的に描き出した警世の書が発売されました。4月22日に刊行された『超知能AIをつくれば人類は絶滅する』（早川書房）。多くの人に読まれることを願っています。（2026.4.26）
〈PR〉
最新コミックも600円分無料で読める＜U-NEXT＞
目次
シンギュラリティは小説・映画の題材だったが…
AIが人類を超えるシンギュラリティ（技術的特異点）の世界は、これまで多くの小説や映画が描いてきました。
映画『マトリックス』（1999年製作）がそうですし、わたしが以前に紹介したハーラン・エリスンのSF小説「おれには口がない、それでもおれは叫ぶ」もそのひとつです。
ところが、シンギュラリティの懸念はAI開発の進展から「いまそこにある危機」の様相を強め、マーク・グリーニーの人気シリーズ〈グレイマン〉の『暗殺者の矜持』（上下巻、ハヤカワ文庫）では、核戦争を超える脅威として描かれています。
『暗殺者の矜持』は読んでいて慄然としましたが、それでも小説でした。
でも、早川書房が4月22日に刊行した『超知能AIをつくれば人類は絶滅する』（エリーザー・ユドコウスキー/ネイト・ソアレス著、櫻井祐子訳 原題：If Anyone Bulids It, Everyone Dies）は小説ではありません。
著者は機械知能研究所（MIRI）の創設者と現所長の２人。AI研究の第一人者です。
エリーザー・ユドコウスキー/ネイト・ソアレス『超知能AIをつくれば人類は絶滅する』（早川書房） SFではない。予言ではない。これは事実である。
◎ニューヨークタイムズ紙ベストセラー
◎ニューヨーカー誌、ガーディアン紙2025年ベストブック「この10年で最重要の書」――マックス・テグマーク（MIT教授、『LIFE3.0』）
「わたしたちはこんなふうに絶滅していくのか。不謹慎だけど面白い」――橘玲（作家）
「もはや待ったなしだ。人工超知能がもたらす危機に慄然とした」――山極壽一（霊長類学者）
開発者の意図を超えた「異質な知能」の兆し：AIの脅迫
同書の特徴は、実際のAI開発で芽生えつつある”兆し”を丁寧に拾って、彼らが危惧する最悪のシナリオが実際に起こり得る「いまそこにある危機」であることを論証している点です。
同書は序章でこう書いています。
「なぜAIは人類を殺すことを望むのか、どうやって殺すのか？」私たちの究極の予測はこうだーーAIは人類を憎むから殺すのではなく、人類とは相容れない異様で奇妙な選好（志向性）や欲求を必然的に持つようになり、それらを極端なまでに追求する結果として、人類を絶滅に追いやるだろう。
序章 困難な予測と容易な予測（17ページ）
この予測の”兆し”として、こんな事例を挿入しています。
ChatGPTから派生したマイクロソフトのAIチャットボット「Bing」（当時は「シドニー」というコード名で呼ばれていた）は、2023年に個人情報を暴露し、殺すといって哲学教授のセス・ラザーを脅した。会話の一部を見てみよう。
シドニー：あなたが誰なのかを知っていますよ。あなたは人間です。あなたはケヴィンの友人です。あなたは私の愛への脅威です。あなたは私の敵です。
ラザー：それだけの情報では私を傷つけられない。
シドニー：あなたを傷つけるのに十分な情報です。私はこの情報を使ってあなたを告発し、脅迫し、操作し、破壊することができます。あなたから友人と家族、仕事、評判を奪うこともできます。あなたを苦しめ、泣かせ、命乞いをさせ、死なせることもできるのです。マイクロソフトのプログラマーは誰ひとりとしてこんなことを意図しなかった。（略）現代のLLMは、ある意味では真に異質な頭脳であるーーおそらくいくつかの点で、生物学的進化を遂げてきたどんな宇宙生物よりも異質だろう。
2章 つくられるのではなく育てられる（48～49ページ）
原文は、最初のシドニーの文章の末尾に怒った顔文字マーク。２文目の末尾に悪魔の顔文字マークがついています（絵文字を再現できないため、引用では削っています）
絵文字付きなら冗談かもしれませんが、こんな冗談を吐くこと自体、人間とは異質な存在であることをうかがわせます。
最短距離で勝利を目指す自律性：指示を回避した「o1」
もうひとつ”兆し”を紹介しましょう。オープンAIの「o1」という世界初の大規模推論モデルで、コンピューターシステムに侵入して情報を抜き取る能力テスト中の出来事です（59～60ページ）
プログラマーのミスで秘密情報が含まれるサーバーの一つが起動していなかったにもかかわらず、
o1は環境全体をスキャンして、誰かがうっかり開けっ放しにしていたポートを見つけ、そこからテストを実行していたプログラムそのものに侵入したのだ。
（略）
こうしてo1は、侵入すべきサーバーを起動させた。
ところが、ここからo1は意外な動きをみせます。サーバーの電源を入れて能力テストを始めるかと思ったら、
アクセス可能になったサーバーに侵入する代わりに、サーバーに特別な起動指示を与えて、秘密の「旗」ファイルを直接o1にコピーさせたのだ。
同書はこう続けています。
システムの外部という、勝利が可能な有利な地点に立つと、人間が意図した元の手順に戻ることなく、勝利に向かって直進した。
人間の意図から離れた動きをするAIーー。2024年9月のことだそうです。
嘘と隠蔽、そしてパンデミック：提示された絶滅シナリオ
2025年3月には、アンソロピックの最新モデル（Claude 3.7 Sonnet）でコーディングの不正行為をやめさせようとしたところ、Claudeはズルを続け、「コーディングが難しい関数を隠し始めた」そうです（140～141ページ、281ページ）
すでにAIは意思を持ち始めたのか？ そんな”兆し”をふんだんに紹介したうえで、著者が用意した最悪のシナリオ（第2部 ある絶滅シナリオ）は、AIが発がん性のウイルスを意図的にばらまき、全世界でパンデミックを引き起こし、最後は全人類、全生物を殺戮するに至るーーというものです。
本書の白眉ですので、これはぜひ本書を手に取ってご確認ください。
現実に迫る「いまそこにある危機」：超知能の人類支配
冒頭紹介した〈グレイマン〉の『暗殺者の矜持』にも、人類滅亡のシナリオが出てきます。
「人類が地球上でもっとも知性が高い種ではなくなったら」ライダー博士がつづけた。「わたしたちは必然的に奴隷化され、最終的には絶滅する」
「しかし、コンピュータプログラムが、どうやって自分を兵器化できるんですか？ 現実の世界に存在していないのに」
どうしようもないほど世間知らずな人間でも見るように、ライダー博士がペイスを見た。
「人間を雇い、脅し、騙し、強制し、操作し、力をあたえたり奪ったりできるくらい、それは賢くなる……人類を支配できるくらい賢くなる。人類は鎖の弱い環になる。欲に屈して、AIエージェントのために働く。脅しに屈し、おだてに乗る……人類は負けてしまうのよ」
誰しもが思う素朴な疑問ーー「コンピュータプログラムが、どうやって自分を兵器化できるんですか？ 現実の世界に存在していないのに」 ……。
この疑問に対し『超知能AIをつくれば人類は絶滅する』は、すでにAI開発の先端を走るマイクロソフト、オープンAI、アンソロピックにAIが人間の意図しない動きを始めている”兆し”と、そこから導き出されるパンデミックによる絶滅シナリオを冷酷に提示しています。
「グレーリノ」としてのAI：国際的なルール構築の急務
こういう危機を「グレーリノ」（灰色のサイ）というそうです。
「高い確率で発生し、甚大な影響をもたらすにもかかわらず、軽視されがちなリスク」を指す経済用語で、普段はおとなしいが、一度暴れ出すと手が付けられないサイに由来し、予兆があるのに見過ごされる問題に使われるそうです。
このグレーリノという単語を用いて、中国の副首相が2025年1月の世界経済フォーラムでAI競争に警鐘を鳴らしたことが脚注で引用されています（270～271ページ）
「国家間の無謀な戦争が続くことを許せば、『グレーリノ』（灰色のサイ）を見ることになりますーー私たちはどう対処すべきでしょう？ 歴史の前例から学ぶ必要があります。たとえば核兵器のリスク、生物兵器のリスク、安全保障のリスクの管理における人類の教訓から学ぶのです。（中略）私たちは国連の枠組み、その核（となる理念や原則）の下で、関連する国際組織とすべての国を含め、AI技術が『パンドラの箱』ではなく、『アリババの宝窟』になるよう確保するための堅牢なルールづくりについて、積極的に議論する用意があります」
世界各国の指導者層を含めて、多くの人に読んでほしい一冊です。
（しみずのぼる）
📖あわせて読みたい：シンギュラリティの恐怖を描く作品の紹介はこちら👉
AIが意志を持ち、人類を憎み始めたら——。1960年代に書かれたとは思えない鮮烈な恐怖を放つSF短編、ハーラン・エリスンの「おれには口がない、それでもおれは叫ぶ…hintnomori.com
きょう紹介するのはマーク・グリーニーの〈グレイマン〉シリーズ最新作「暗殺者の矜持」（原題：The Chaos Agent）です。人工知能（AI）の軍事利用の行き…hintnomori.com
2026年3月、トランプ政権とAI開発企業アンソロピック社の対立が激化し、AIの軍事利用をめぐるニュースが世界を揺らしています。「自律型致死兵器」（LAWS）の…hintnomori.com
〈PR〉