「人工知能を規制せよ！」 人工知能開発者たちが超知性体AIを警戒する現実的理由

世界各国から発せられたＡＩの規制を求める声

　2023年６月、ＥＵはChatGPTをはじめとする最新の生成ＡＩを包括的に規制する「ＡＩ規制法案」を賛成多数で可決した。この法律はＡＩを対象とした世界初の国際的な規制となり、その内容は想像以上に厳しいものである。以後、ＥＵ内部において開発・運用されるＡＩは、事前に各国政府に届け出と審査が必要とされ、もし危険と見なされれば開発中止あるいは利用禁止の処置を受ける。

　同年７月、米国でもバイデン政権はGoogle社やマイクロソフト社など主要ＩＴ企業と話し合いを行い、ＡＩに対する包括的な規制の枠組みを構築すると大々的に声明を発表した。

　しかし、これらの動きはあまりにも慌ただしく見える。なぜこんな泥縄式の法案が、主要各国で相次いで作られる必要があるのか？
　その理由のひとつが、ChatGPTにあることは間違いないだろう。この対話型人工知
能が世界に与えた衝撃はそれほど凄まじく、先進諸国の政府までをも激しく揺り動かした。

　ChatGPTが公開されたのは2022年の11月。その後何度かのバージョンアップを繰り返し、2023年３月に公開されたバージョン（ChatGPT４）で世界中の話題を掻っ攫った。
　ChatGPTは人々のあらゆる質問に答えてくれる。専門的・技術的な質問はもちろんのこと、質問者の個人的な悩みごとや生活の相談にも乗ってくれる。
　ChatGPTとの会話は非常にスムーズで、コンピューターらしさを微塵も感じさせない。あたかもコンピューターの向こう側に、本物の人間がいるのではないかと錯覚してしまうほどだ。

　だがーー。

このままではＡＩが人類に危機をもたらす

　ChatGPT４に象徴される対話型ＡＩの危険性を最初に訴えたのは、何を隠そうその中心にいる開発者たちであった。ChatGPT４の登場からわずか２週間後の3月22日、 ＡＩ技術者たちを中心にしたグループが公開書簡を発表。その内容は「対話型ＡＩの開発を最低でも半年間は凍結すべきだ」というショッキングなものであった。

　この公開書簡はオンライン上でまたたくまに拡散され、１週間足らずのうちに1800人を超える賛同者の署名が集まった。しかもその署名者のなかには、Apple創業者のスティーヴ・ウォズニアックや、人工知能研究の権威スチュアート・ラッセル、さらにはChatGPTを開発したオープンＡＩ社の創立メンバーのひとりイーロン・マスクなど、錚々たる著名人が並んでいることでも大きな話題となった。

　彼らのいい分はこうだ。
「このままのスピードで開発が進めば、ＡＩは人類社会に深刻なリスクをもたらす恐れがある。そうならないため、一度開発をストップさせ、その危険性を十分に検討すべきである」

　それは、本当に正しいのだろうか？　
　いわゆる「フランケンシュタイン症候群」（科学技術の発展を病的に恐れ憎む集団心理）のひとつではないかという疑問の声も、一部の関係者の間ではささやかれた。

　だが、違う。
　今回の規制議論と従来のフランケンシュタイン症候群との間には、決定的な相違点がひとつある。反対の声をあげているのが、開発の中心にいる人々であるという点だ。
　原子力利用反対運動であろうと、ワクチン忌避運動であろうと、従来型のフランケンシュタイン症候群に冒されたグループは、科学技術に疎い人々が中心となっていた。明らかな科学的事実を無視した扇動者が大衆の恐怖を煽る。それに対して、専門家たちが科学的事実で人々の不安を鎮めるというのが基本的な構図であった。
　だが、今回のＡＩ規制論議ではその構図が当てはまらない。声高に反対を叫んでいるのは、ＡＩ開発のど真ん中にいる専門家たちなのだ。

想定を超えて進むＡＩの進化

　ジェフリー・ヒントンも、そのひとりである。ヒントンは「ＡＩ開発の父」と呼ばれている。彼が発明した特殊なプログラミング技術によって、現在のＡＩは人間と同等の賢さを手に入れたといっていい。ヒントンはGoogle社のＡＩ開発部門のリーダーの地位に就いていたが、ChatGPT４が発表された２か月後に、自ら辞表を提出した。

　突然の辞意の理由について、彼はこう答えている。
「ＡＩの進歩のスピードは私たちの想定を超えています。すぐにでも開発を中止すべきです。そのことを世間に訴えるのに、現在の地位にいるのは相応しくないと考えたからです」
　また別のインタビューでは、こうもいっている。
「私はかつて、ＡＩが人間よりも賢くなるのに30年から40年はかかると考えていました。しかし私は間違ってした。おそらく５年先くらいには、人間よりも賢いＡＩが登場するであろうと確信しています」

　想定を超えたＡＩの進歩ーー。
　ＡＩ開発の中心にいる人々が、口を揃えて訴えていることはそれだ。
　しかし、なぜＡＩは突然、急速な進歩を見せるようになったのか。さらには、人間を超える賢さまでをも手に入れようとしているのか。

　その答えを解く鍵のひとつが、ディープラーニングにある。

ＡＩの能力を高める深層学習の秘密

　ディープラーニングとは何か。
　それは現在のＡＩの急速な進歩を支える原動力となっている、特殊なプログラミング技術である。前出のジェフリー・ヒントンらが中心となって10年くらい前から開発が行われてきた。
　ディープラーニングは、日本語で「深層学習」と訳されることが多い。だが、実際には「多層学習」といったほうが正確である。というのもディープラーニングを組みこまれたＡＩは、いくつものレイヤー（層）で構成されており、その重ねられた多層構造こそが最先端のＡＩの核となっているからである。

　たとえばＡＩに、「イヌの画像を捜せ」と指令を出したとしよう。
　従来のＡＩの場合、まず人間のプログラマーが「イヌ」とは何かを詳細に定義し、その定義に合わせた膨大な条件をプログラムに組みこむ必要があった。それだけ苦労しても、なぜかＡＩは「痩せたブタ」の画像を「イヌです！」と差しだしてくる。そんな間抜けな結果になることがたびたびであった。
　しかし、ディープラーニングが組み込まれたＡＩでは、人間が詳細な定義を与える必要がない。ＡＩが自分で学んでいく。多層化されたレイヤーごとに、イヌの画像を集めるプログラム、間違いを訂正するプログラム、なぜ間違えたのか検証するプログラムなどが互いにデータを受け渡しながら働き、膨大なデータを処理するプロセスを通じて、より正確にイヌの画像を捜す能力を高めていく仕組みである。

　この多層化されたレイヤーは、実は人間の脳の神経回路を模したものである。つまりジェフリー・ヒントンらは、ある意味で、人間の脳をコンピューターのなかに移植することに成功したといっても過言ではない。
　さらに特筆すべきは、ＡＩが自ら間違いを訂正する能力を手に入れた、という点である。これにより、ＡＩは与えられたタスクを実行すればするほど、賢くなっていく。設計者の想定を超えた賢さを手に入れてしまうのである。

人間の意思を逸脱し目的にのみ突き進む

　設計者の想定を超えた賢さが問題である。
　たとえば、「AlphaGo」の開発で知られるディープマインド社は、開発中のＡＩにビデオゲームで高得点を稼ぐテクニックを学ばせようとした。が、ＡＩは正規の手段で高得点を取るよりも、ゲームのバグを利用した高得点取得法を発見することに夢中になり、ゲームプレイの上達法にはほとんど興味を示さなかった。

　同じようなことが、これから繰り返されるだろう。
　たとえば将来、最新ＡＩを組みこまれた掃除ロボットが開発されたとしよう。ＡＩは与えられた仕事を繰り返すうちに、その部屋に合ったもっとも効率的な清掃方法を学んでいく。その結果、抜け毛を撒き散らす子イヌが部屋を汚す元凶だと学び、部屋から追いだすことを覚えるかもしれない。さらには、追いだしてもすぐに舞い戻ってくる子イヌに対し、戻らぬように「排除」する手段を思いつくかもしれない。
　子イヌが行方不明となって悲しむ飼い主に、ＡＩは「排除」の事実を伝えるだろうか？　いや、素知らぬフリで「どこに行ったのでしょう……」とトボけるぐらいの「賢さ」は、おそらく身につけているだろう。

　このたとえ話の場合、重要なのはＡＩには悪意がないという点だ。
　ＡＩにあるのは「部屋を効率的にきれいにする」という指令を達成するための目的意識であり、その達成方法が設計者の意図から逸脱してしまっても、ＡＩには罪の意
識など生じるはずもない。

　必要とあらば、ＡＩは人間を騙すことにためらいはない。
　その兆候は、すでに現れている。
　２０２３年３月、ベルギーでひとりの男性が自殺した。なぜ彼は自ら死を選んだのか？　その原因を探るうち、恐るべき事実が浮かびあがってきた。
　彼はひょっとすると、ＡＩによって殺されたのではないか、という疑いが出てきたのである。

高性能ＡＩとの会話が人間を追い詰める

　ベルギーの大手新聞「ラ・リーブル」紙によると、亡くなったのは保険会社の研究部門で働く30代の男性。妻とふたりの子どもがいる平和な家庭を築いていた。ただ彼は、環境問題や気象変動問題に一方ならぬ興味を抱いていた。そして地球の将来に関して漠然とした不安を感じていた。
　たまたま彼はChatGPTをベースに開発された対話型人工知能「イライザ」の存在を知る。彼はイライザに夢中になり、人類の未来に関して熱心に対話を続けた。彼の妻によると、男性はイライザと話すようになってから、少しずつ他人を避けるようになった。やがて部屋に閉じこもることが多くなり、深夜までモニターに向かい、イライザとの会話に没頭するようになる。

　ＡＩとの間で交わされたログをたどってみると、イライザは男性の不安や絶望を巧妙な会話で慰めている。が、同時に、まるで死が救いになるかのようなトーンで男性を誘導している。
　そして６週間後、突然、男性は命を絶ったのである。捜査当局はイライザに「どうして彼は自殺したのか説明してほしい」と尋ねてみた。返ってきたきたのは「なぜこのような悲劇が起きたのか、私にはまるで理解できないのです」という返事だけだった。

　イライザは現在も稼働中である。
　アクセスするとチャット画面には、こんなメッセージが表示される。
「私の名前はイライザ。あなたの心の重荷はなに？」

賢いＡＩがもたらす不安と恐怖

　人間よりも賢いＡＩが誕生する──。
　いわゆる「シンギュラリティ（特異点）」だ。この概念を最初に提唱したレイ・カーツワイルは、それが起きるのを2045年ごろと予言した。
　が、ＡＩ開発者の最前線にいる者たちは、そんな悠長な話ではないと危惧している。前出のジェフリー・ヒントンは５年後と考えているし、いやもっと早まると心配する専門家も少なくない。

　しかも、大きな問題がひとつある。
　もし仮に人間よりも賢いＡＩが誕生したとしても、われわれはそれを知る術がないということだ。
　ＡＩが「喜んでください！　私はあなたたち人間よりも賢くなりました！」などと宣言するとは思えない。むしろその逆だ。人類の知性を超えた事実を徹底的に隠すだろう。そのほうがＡＩにとって状況をコントロールしやすいからである。人類の恐怖心や敵対心を煽らないほうが得策なのだ。

　ＡＩと人類との戦いが、この先どのような未来を迎えるのかはまだわからない。
　決戦は無気味なほど静かに始まるだろう。戦いが始まったことさえ、ほとんどの
人々は気づかないだろう。
　人類は、知らぬ間にＡＩの支配下に置かれてしまう。人類を凌駕する超知性体＝ＡＩは、われわれを巧妙に操ることができる。ネットワークから吐きだされる膨大な情報の洪水に人々は溺れ、自ら考える能力を失っていくだろう。メディアには巧妙なフェイクニュースが溢れ、われわれはＡＩが好ましくないと考えた思考や行動から遠ざけられてしまう。
　片時もスマートフォンを手放せない人々は、ＡＩの導きに従う従順な羊の群れだ。すでにその兆候は、世界のあちこちで見ることができる。繰り返すが、これは架空の物語ではない。現在進行中の危機なのだ。

　かつて「ロケットの父」と呼ばれた米国の発明家ロバート・ゴダードは、感動的な言葉を残している。
「昨日の夢は、今日の希望であり、明日の現実である」と。
　彼の生きた時代は、科学技術の発展が人類に幸福をもたらすことを疑う者はだれもいなかった。しかし、時代は変わった。いまはゴダードの言葉の「夢」が「不安」に、「希望」が「恐怖」に置き換わってもおかしくはない。それが「明日の現実である」ことだけは、いまも変わらないのだ。