「犯罪者になる顔」を人工知能で８割的中!? AI監視・予測システムに支配される近未来の悲劇

あなたの顔は罪を犯す顔です

　AIを使った最新の監視システムは、なんと罪を犯しそうな人間を事前に発見し、監視下に置くのだという。SFのような警察国家の時代が、ついに人工知能の進化で始まったのだ。

　7月26日、アルゼンチン安全保障省がAIを使った犯罪予測システムを導入すると発表した。同国ハイテクサイバー犯罪研究センター（CICAT）によって開発された安全保障用人工知能ユニット（UIAAS）が、ダークウェブを含むあらゆるネット環境を巡回、犯罪の兆候を発見する。また、機械学習アルゴリズムで過去の犯罪データを分析し、ビッグデータやドローンまで駆使して犯罪を未然に防ぐという。国家規模のスケールで犯罪抑止にAIが使われるのは初めてのことだ。

　AIによる犯罪抑止はアルゼンチンの専売特許ではない。2020年に米ペンシルベニア州ハリスバーグ大学の研究チームが発表した論文『画像処理により犯罪性を予測するディープニューラルネットワークモデル（A Deep Neural Network Model to Predict Criminality Using Image Processing）』は発表当時に大きな反響を呼んだ。顔から犯罪性向を見抜くAIのアルゴリズムで、正答率は80パーセント以上だという。

　本当に顔から性格や犯罪性向まで読み取れるのだろうか。1876年にイタリアの精神科医ロンブローゾが発案した生来性犯罪者説では、犯罪者とは“先祖返りした一部の人類”であり、外見によって判別できるとした。「犯罪者は，人類の一つの特別の変異，すなわち一つの特有な人類学的類型として特徴づけられる。この類型は，身体的表徴と精神的表徴を有する。前者は，左右不均等な頭蓋骨，長い下顎，平たい鼻，まばらな顎ひげなど」というロンブローゾの主張は、昭和41年度（1966年度）版の犯罪白書でも言及されている。ただし、1902〜1908年に行われた犯罪者の顔に関する大規模な調査で、この生来性犯罪者説は完全に否定されたものだ。いわゆる骨相学などと同じ、疑似科学というわけだ。

　当たり前である。顔のつくりで、「キミは将来犯罪者になるから捕まえるね」といわれて納得できる人はいないだろう。罪を犯す人間は特殊であり、遺伝的な異常があるとする生来性犯罪者説はただの偏見でしかないが、それが21世紀の今、AIの皮をまとって再び蘇りつつあるのだ。

ヒートリストに載せられた悲劇

　未来の犯罪者を予測することは人権侵害の恐れがあり、慎重になるべきだ。しかし、犯罪者の予測と犯罪の発生を予測することは別だ。

　2017年に米シカゴ市警察が導入した犯罪予測システム「HunchLab」は、犯罪の起きた場所と時間、季節と過去の犯罪を結びつけ、犯罪が発生しそうな場所をマップに表示。その場所の周辺では実際に警察の巡回が強化されている。その結果、発砲事件は15〜29％、殺人事件は9〜18％減少したという。しかし、ここからシカゴ警察はさらに踏み込んでしまう。犯罪発生の予想マップを元に、犯罪抑止のための行動に出たのだ。

　ロバート・マクダニエルはその被害者となった。「ヒートマップ」と名付けられた銃撃事件の発生予想マップがピンポイントで場所を指定し、その一つにマクダニエルの家が含まれていたのだ。

　ヒートマップは銃撃事件が起こる可能性が高い場所を示すだけで、その場所に住む住人が銃撃事件の加害者になるか被害者になるかは判別できない。しかし、このマップに載ったことで警察はマクダニエルの家を訪問し、マクダニエルをヒートリスト（＝危険人物リスト）に載せた。ちなみにマクダニエルに麻薬売買の前科はあったが、暴力事件には関わっていない。

　その後、マクダニエルはシカゴ警察に付きまとわれるようになり、近所の人たち（多くは身内が何らかの犯罪に関係している）は彼が警察のために動く密告屋になったと信じ込んだ。そして、裏切り者と判断されたマクダニエルは地元のマフィアに足を撃たれてしまう。さらに数年後、再びマクダニエルは銃撃された。

「ヒートリストは（中略）ヒートリストが銃撃を予測していなかったら起こらなかったであろう銃撃を予測したのだ」（海外メディアより）

　皮肉以外の何ものでもないが、当事者にとって笑い事ではない。

　他にも、カルフォルニア州など全米60か所以上で導入されたPredPol社のシステムは、警察の報告書をデータ分析の対象としていることから、人種差別的な偏りが問題になっている。有色人種と低所得者が犯罪者になるという警察の長年にわたる偏見をAIがそのまま学習し、強化してしまうのだ。

　それでもAIによる犯罪予測システムの導入は全米各地で進んでいる。現実にシステムの導入によって犯罪率が低下しているからだ。2030年には、すべての州や郡が導入すると言われている。

ディストピアの始まりか、犯罪のないユートピアか？

　日本の場合はどうか？　2016年10月１日から京都府警が日本で初めて犯罪予測システム『予防型犯罪防御システム』を導入した。過去10年に起きた犯罪データから犯罪の発生地域や日時を予測して地図に表示する、犯罪予測システムとしてはベーシックなものだ。今のところ、大きな成果は挙がっていないようだが、データを収集しつつ、逐次アップデートが図られるという。

　さらに、神奈川県警は日立製作所の開発したAIを活用した犯罪・事故の発生予測システムの導入を検討中だ。シカゴ警察が導入した犯罪予測システムと同様、過去の犯罪と場所や時間などを紐づけし、地図上に表示する。

　犯罪予測システムを開発しているSingular Perturbations社（国内企業である）によれば、犯罪の発生には「ホットスポット」と「近接反復被害」という特徴が見られるそうだ。ホットスポットとは犯罪が多発する地域のことで、たとえば富裕層が暮らしている古い家屋の多い地域は窃盗事件が起きやすく、これに該当するという。

　また、一度犯罪に成功した者は、その付近で再び犯行に及ぶ傾向があり、これを「近接反復被害」という。過去に発生した犯罪の種別、発生時間、発生場所を基礎情報にして予測を行えば、近接反復被害を抑止できると同社は主張する。

　なお、住居侵入リスクは「１度被害が発生するとその１日、５日、９日後に上昇するというメカニズム」（同社）があり、そこに地域の違いや天気などのパラメータを加えることで、予測の精度を上げるのだという。

　殺人事件のような重犯罪の予測は難しい（そもそもアメリカに比べて発生件数が圧倒的に少ない）ようだが、窃盗などの軽犯罪にはホットスポットや近接反復被害の分析に基づく犯罪予測システムは有効だろう。

　アメリカで起きているようなデータの編重を避けるには、公平なデータとは何かという問いに答える必要がある。人間の印象ほどあてにならないものはない。そうなると、客観的な指標としてAIによって収集されたビッグデータが重視されることになるだろうが、プライバシーをどこまで守るべきなのか。

　ちなみに、2018年から中国でも犯罪予測システムが導入されているが、新疆ウイグル自治区では１週間で２万人が不審者としてリスト化され、約１万6000人が収容所送りになったと国際調査報道ジャーナリスト連合が内部資料を公表している。テロリストを摘発する名目なら、こういう無謀ができてしまう。

　推定無罪という言葉があるが、推定無罪どころか犯していない犯罪で逮捕される未来がやってくるのか。それとも犯罪率が低下した平和な世界になるのか。今、私たちはその岐路に立たされている。