明日、ある人が重大な犯罪を起こす。AIがそう予測したら、警察は今日、その人を逮捕するべきでしょうか。被害を防げるかもしれませんが、その人はまだ何もしていません。この板挟みを考えるのが、予防的正義の面白く、難しいところです。
予防的正義とは何か
予防的正義は、将来の害を防ぐために国家が人へ制限を加えるとき、その理由や限界を問う考え方です。アンドリュー・アシュワースとルシア・ゼドナーの『Preventive Justice』も、犯罪予防や公共の保護を理由とする自由の制限を扱っています。
犯罪が起きるまで何もできない社会は心もとない。一方で、「危険そう」という評価だけで人を閉じ込められる社会も怖い。争点は、予防するかどうかだけでなく、何を根拠に、どこまで介入するのかです。
思考実験：未来が分かるAI
次の架空の状況を想像してください。AIは過去の行動などを分析し、ある人が翌日に事件を起こすと予測します。本人は否定し、具体的な準備も見つかっていません。それでも予測だけを根拠に拘束してよいでしょうか。
ここで「絶対に外れない装置」と「かなりよく当たる装置」は、別の問題です。前者なら自由や責任そのものが問いになります。後者なら、その前に、無関係な人をどれだけ巻き込むかを考えなければなりません。
また、予測された人に相談や支援を行い、事件が起きなかった場合、それは予測が間違ったのか、介入が効いたのか。未来を予測することと、その未来を変えることが絡み合うため、成績の評価も単純ではありません。
高い的中率でも、疑われる人の半分が無関係になる例
数字で考えてみましょう。これは実在のAIの性能ではなく、誤判定の仕組みを見るための仮の計算です。1万人のうち、実際に事件を起こす人が100人いるとします。装置はその90％を検出しますが、事件を起こさない人の1％も誤って危険と判定します。
| 実際の状態 | 人数 | 危険と判定される人数 |
|---|---|---|
| 事件を起こす | 100人 | 90人 |
| 事件を起こさない | 9,900人 | 99人 |
危険と判定された189人のうち、実際に事件を起こすのは90人。割合は約48％です。「事件を起こす人を90％見つけられる」と「危険とされた人が90％の確率で事件を起こす」は同じではありません。もともと事件が少ないほど、わずかな誤判定でも大勢を巻き込みます。
予測、計画、準備は同じではない
頭の中で考えること、具体的に計画すること、実行に向けて準備することも分ける必要があります。日本のテロ等準備罪について、法務省の説明は、組織的犯罪集団、二人以上による計画、その計画に基づく準備行為などを要件としています。「AIが危険だと予測した」という思考実験とは仕組みが異なります。
予測は注意を向けるきっかけにはなっても、具体的な行動の証拠とそのまま置き換えられるものではありません。評価が本人の行動より先に独り歩きすれば、本人には身に覚えのない疑いを晴らすことさえ難しくなります。
拘束の前に考えたい三つの問い
- 根拠は何か。予測の数字だけでなく、具体的な行動や状況を説明できるか。
- もっと制限の小さい方法はあるか。支援、危険な場所の改善、相談などで同じ目的を達成できないか。
- 判断を訂正できるか。本人が理由を知り、異議を申し立て、第三者の確認を受けられるか。
「安全のため」という言葉は強い説得力を持ちます。だからこそ、その言葉だけで選択肢を一つに絞らないことが大切です。被害を減らす工夫と、人の自由を守る工夫。その両方をどう組み合わせるかまで考えると、この思考実験はぐっと現実に近づきます。