世界のIT系億万長者たちが続々と“終末”に備え始めた！ 「プレッパー」化するリーダーたちが本当に恐れるAGI（汎用人工知能）の脅威

テックリーダーたちがAGIの登場に戦々恐々!?

　自然災害、経済恐慌、戦争など最悪の事態に直面した際に、自らの力で生き延びることを目指し、準備に余念がない人々のことを「プレッパー」というが、コロナ禍を経てプレッパーはさらに増えているといわれている。

　そして米国の大物テックリーダーの間でもプレッパーは増加中だという。彼らは有り余る私財を投じ、地下シェルターを建設したり、食料や物資の備蓄に励んでいるというのだ。

　Meta社CEO、マーク・ザッカーバーグ氏は、ハワイのカウアイ島に東京ドーム約121個分にもなる1400エーカーの敷地の「クアロア牧場」の建設を2014年から始め、そこには広大な地下施設も併設されている。

「Wired」誌の報道によると、このプロジェクトには独自の発電施設と食料を完備したシェルターも含まれているが、現場で作業する建築作業員や電気技師らは秘密保持契約により詳細を話すことを禁じられているようだ。

　昨年、“終末”に備えたシェルターを作っているのかと問われたザッカーバーグ氏は、きっぱりと「ノー」と答えた。約5000平方フィート（約460平方メートル）の地下施設について、彼は「小さなシェルター、つまり地下室のようなものだ」と説明している。

　さらに、他のハイテク企業のリーダーたちについてもさまざまな憶測が飛び交っている。

　LinkedInの共同創業者であるリード・ホフマン氏は、かつて「終末保険」について語り、超富裕層の約半数がこの保険に加入しており、ニュージーランドは避難先の住宅地として人気が高いと説明している。

　OpenAIのCEOサム・アルトマン氏はかつて、世界的な災害が発生した場合にニュージーランドの辺鄙な土地で仕事仲間でもある起業家、ピーター・ティール氏と合流する構想を話している。

　テクノロジーの最先端を知る彼らは、いったいなにをそこまで恐れているのか。戦争や気候変動の影響、あるいは彼らしか知らない別の大惨事に備えているのだろうか？

　Open AIの主任科学者であり共同創設者でもあるイリヤ・スツケヴァー氏は、かつて「AGIをリリースする前に必ずバンカー（退避壕）を建設するつもりだ」と発言したといわれている。

　現在のAIの発展形であるAGI（汎用人工知能）の登場は、シェルターを準備しなければならないほど危険な事態なのだろうか。ここ数年、たしかにAIの進歩は人類の生存に関わる潜在的問題のリストに新たに加わっている。AIの急速な進歩に、開発当事者たちまでもが深い懸念と恐怖を抱いていることは間違いない。そして実際に、シェルターを準備しているのだ。

　では、AGIは一体いつ実現するのか。そしてAGIは本当に人々を恐怖に陥れるほどの変革をもたらすのか。

AIが「シンギュラリティ」に到達する日

　AGIの登場は、さらに高度なASI（Artificial Superintelligence、人工超知能）の実現に繋がるといわれている。つまり、人間の知能をはるかに超越した技術の誕生である。

　1958年、ハンガリー生まれの数学者ジョン・フォン・ノイマン氏の死後、「シンギュラリティ（技術的特異点）」という概念が提唱され、コンピューターの知能が人間の理解を超える瞬間が定義された。

　最近では、エリック・シュミット氏（元グーグルCEO）、クレイグ・マンディ氏（元マイクロソフトCSO）、故ヘンリー・キッシンジャー氏（元米国務長官、国際政治学者）が執筆した『Genesis』（2024年）という著作で、意思決定やリーダーシップが非常に効率的になるため、最終的に我々が制御権を完全に委ねてしまう超強力なテクノロジーのアイデアが探求されている。それは「起こるかどうか」の問題ではなく「いつ起こるか」の問題だと彼らは主張する。

　AGIが登場した暁には、我々はそれをどう扱えばよいのか。

　AI開発は、悪用されれば人類に壊滅的な損害をもたらす「人類滅亡リスク」を抱えている。まさに映画『ターミネーター』のスカイネットのように、人類に反抗して主導権を奪おうとするAIネットワークの出現も絵空事ではないのだろう。

　一方、人間が過度にAIに依存し、自らの統治能力を失っていくリスクは「段階的無力化」問題として議論されており、人間の側が勝手に堕落して自律性を失う可能性もある。

　人間の知能を凌駕するAGI、ASIの登場にいかに備えるべきなのか。

「もし、それがあなたより賢いのなら、私たちはそれを封じ込めなければならない」「スイッチをオフにできるようにするべきだ」と、World Wide Web（WWW）の創始者、ティム・バーナーズ＝リー氏は今月初め、英「BBC」のインタビューで警告した。

　すでに各国政府は、いくつかの防護策を講じている。多くの大手AI企業が拠点を置く米国では、バイデン大統領が2023年に一部の企業にAI開発における安全性試験の結果を連邦政府と共有することを義務付ける大統領令を可決した。しかしトランプ大統領はその後、この命令をイノベーションの「障壁」と呼び、一部撤回した。

　一方、英国では高度なAIがもたらすリスクをより深く理解するために、政府が資金を提供する研究機関である「AI安全機構」が２年前に設立されている。

　しかしそれでも不十分であり、完全な防護策こそが地下シェルターということになるのだろうか。

“その日”に備えてシェルターを準備しなくてはならないとすれば、なんのためにAIを開発しているのかわからなくもなりそうだが、開発競争は日夜継続しており、どの勢力も先を越されてはならないと懸命に努力を続けている。

　そして人間がAGIやASIを完成させなくとも、AI開発のどこかの時点でAIが自ら“進化”してシンギュラリティを越えてくる可能性もあるのだろう。

　一部のテクノロジー企業は、自社製品がなぜそのように反応するのか、その全容を必ずしも理解していないと正直に認めている。Meta社は自社のAIシステムが“自己改善”している兆候がいくつかあるとも述べている。まさに“進化”の兆しがあるのだ。

AIはメタ認知能力を獲得できるのか？

　テクノロジー業界のリーダーたちは、AGIの到来は間近だと主張する。

　サム・アルトマン氏は2024年12月、AGIは「世界のほとんどの人が考えるよりも早く到来するだろう」と言及した。DeepMindの共同創業者であるデミス・ハサビス氏は、今後５年から10年でAGIが実現すると予測している。アンスロピックの創業者、ダリオ・アモデイ氏は昨年、彼が好む呼び方である「強力なAI」が早ければ2026年にも登場する可能性があると言及している。

　一方で懐疑的な見方もあり、英サウサンプトン大学のコンピュータサイエンス教授、ウェンディ・ホール氏は「科学界はAI技術は素晴らしいと言います。しかし、人間の知能には遠く及びません」と英「BBC」の取材に答えている。機械がどれだけ知能化しても、まだまだ生物学的には約860億個のニューロンと600兆個のシナプスを有する人間の脳のほうがはるかに複雑だというのだ。

　テクノロジー企業「Cognizant」の最高技術責任者、ババク・ホジャット氏も、AGIの登場にはいくつかの「根本的な進歩」が必要だと説明する。

「LLM（現在のAIの基盤となっている大規模言語モデル）にはメタ認知能力がないため、自分がなにを知っているのかを正確に把握できていないのです。人間には、自分がなにを知っているのかを理解することを可能にする、意識という内省的な能力がある」（ホジャット氏）

　メタ認知は人間の知能の基本的部分であり、まだ研究室で再現されていないものである。このメタ認知が獲得できない限りはAIに意識は生まれず、人間にとっての脅威になることもないというわけだ。

　しかし、そうだとしても昨今のAIは驚異的スピードで進歩し、不気味さを増してきており、もはや不安を抱かないほうが不自然というものだろう。“その日”に備えてシェルターを準備しなくて済む状況をどうにかして望みたいものである。

【参考】
https://www.bbc.com/news/articles/cly17834524o