対話型AIが人間を脅迫する事件発生！ 人工知能への依存が洗脳に至る未来は来るのか／遠野そら
ネット検索にとってかわるというチャットAIだが、対話による依存が人間を心理的に支配することも……？
記事を読む
加速度的に進歩するAIが作り上げるディープフェイク。私たちを待ち受けるディストピア的近未来とは？
AIによるディストピアはもう始まっている！
英ロンドン大学エガム校の心理学教授マノス・ツァキリスは、進化が止まらないディープフェイクに警鐘を鳴らす。昨今のディープフェイク画像は、実在する人間とAIが創り出したアバターとの見分けが本当に難しくなっている。すでにAIが創った実在しない人間のポートレイトが、さまざまな形で出回っているのだ。
ごく最近、とあるSNSでこうした写真を使って虚偽のプロフィールページを作り、そこからアメリカ政府高官やビジネス界のインフルエンサーたちとつながることに成功した実例も報じられた。諜報部門では、こうした“ファントム・プロファイル”を数多く作成して、SNS経由でターゲットに近づくという方法論も確立されつつあるという。
しかし、話はスパイの世界だけにとどまらない。AIが無作為な形で創り出した“自分に似た人”が犯罪行為に使われてしまうこともあり得る。昨日あなたがFBで友達になった人も、実は物理的には存在しないのかもしれない。
加速度的クオリティ向上が行き着く先
AI由来のディープフェイクは、もちろん画像だけにとどまらない。映像で使われる場合には、アバターとしてごく自然な動作や立ち振る舞い、表情を見せるように工夫されている。国際ロマンス詐欺に使われたり、あるいは中国でAIアバターニュースキャスターが誕生したりという出来事を経ながら、このジャンルの研究は、短期間のうちに別次元レベルと言えるほど加速度的に進化している。
どうしてこれほど精巧な画像・映像を作ることができるのか。その背景には、ディープ・ニューラル・ネットワークというコンピューター・システムの活用がある。ごく単純な形で定義するなら、人間の脳がものごとを記憶するプロセスをそのまま真似ることができるシステムだ。システムに取り込まれる顔写真の数が多ければ多いほど、記憶トレーニングのクオリティが上がる。そして、蓄積された知識から創り出される顔のリアリティも上がる。
今はまだポリゴン的な質感が拭えないメタバース内のアバターも、やがては実写レベル――最上級のリアリティをたとえる表現はこの程度しか思いつかない――に到達するだろう。しかも、そこに到達するまではアッという間だ。ひょっとしたら、数年後にはメタバース空間とリアルな空間の見分けがつかなくなっているかもしれない。
飛躍的発展のカギを握るGANとは？
画像・映像の完成度を高める方法として、ディープ・ニューラル・ネットワークを対の形で使うという方法も確立しつつある。この形はGAN＝ジェネレイティブ・アドバーサリアル・ネットワーク（敵対的生成ネットワーク）と呼ばれるもので、「出力すべきもの」があらかじめ決められていないところから始める教師なし学習で用いられる人工アルゴリズムの形態だ。
対の状態を成すのは生成ネットワークと識別ネットワークだ。たとえば画像生成を目的とするなら生成側がイメージを出力し、識別側がその成否を判定する。こうした手順を繰り返すと、生成側は識別側をなんとかしてだまそうとする。結果として、両者の間でやりとりされる画像や映像の完成度が高まっていく。
こうしたプロセスを経て生成された画像や映像がメタバース内で使われると、その空間はバーチャルリアリティではなく、アナザー・リアリティ――もう一つの現実――とでも呼ぶべきものになるはずだ。人間が判断する場合、AIが生成したアバターと人間の写真を並べたら、まったく見分けがつかなくなるだろう。
GANによって生成されたアバターニュースキャスターと、今話題のChatGPTを組み合わせたエンタテインメントやニュース番組なども実現可能で、精度はこれから先もどんどん高まっていくことが考えられる。
そう遠くない将来、コンピューターが創って発信するものをコンピューターが受けるというような状況が当たり前になるかもしれない。もちろん、そういう世界が良いか悪いか、幸せか不幸かはまったく別の話だが。