人工知能の生みの親からの警告！「超知能AIをつくれば人類は絶滅する」／ムー民のためのブックガイド

超知能AIをつくれば人類は絶滅する

エリーザー・ユドコウスキー／ネイト・ソアレス　著

人類最高のAI専門家である著者らが、AIの発展から惹起される、おそるべき結末を描く

　思わず「な、なんだってー!?」と突っ込んでしまいそうな標題だが、本書の中身はいたって真剣である。何しろ本書の著者のひとりであり、人工知能の研究家であるエリーザー・ユドコウスキーは、機械知能研究所（MIRI）の創設者。かつてはあのピーター・ティール（PayPalの創業者で、「影の米大統領」と呼ばれる人物）からその才能を見込まれて多額の出資を受け、またサム・アルトマン（OpenAIの最高経営責任者）にはその創業の示唆を与えるも、「いまや彼らと反目に至った天才」。
　もうひとりのネイト・ソアレスは、グーグルやマイクロソフトでのエンジニア職を経て、現在はMIRI所長。いい換えれば、このふたりは、ことAIに関する限り、現在の世界における、人類最高峰の専門家コンビであるということだ。

　本書は、ある意味ではAIの産みの親といっても過言ではないこのコンビが、今後のAIの発展と、それにともなって惹起される、おそるべき結末を描いた警世の書である。
　著者らによれば、現在のAI開発がこのまま進めば、近い将来に「人工超知能（ASI）」が出現する。この超知能は「ほぼ全ての種類の予測と操舵の問題において、人間よりもはるかに高い能力を発揮する頭脳」であり、そして標題どおり、その誕生の論理的帰結として、「人類は絶滅する」という。
　何しろ、人類最高のAI専門家である著者らが、自ら「人間はAIを育てることはできるが、AIの内部で起こっていることを理解しているわけではない」、と示唆しているのである。高度な人工知能が「暴走」し、創造主たる人間に「造反」するという筋立ては、それこそ『R.U.R.』の昔からSFの定番だが、それも理の当然というわけだ。

　評者としては、次世代（ASI）を生み出すことこそが、人類という種の究極の目標にして使命であったのなら、むしろ滅亡もやむなしという気もするが、当然ながら著者らの見解はそうではない。人類滅亡後には「喜びがみじんもない荒寥たる宇宙」があるばかりだというのだ。
　ちなみに、本書は一般読者の読みやすさを重視しているので、煩雑さを避けるため、本文中に収録しきれなかった膨大な補足資料は、オンライン上に公開されている。余力のある人はぜひ目を通していただきたい。日本語版も用意されているので、ご安心されたし。

（月刊ムー　2026年07月号掲載）