証拠にAIフェイクが混じる現代。裁判はどうなる? 専門家が答える
印象操作&時間稼ぎの道具
たしかに、音声と映像の証拠って説得力あるので、一度見ちゃったら、なかなか記憶から拭い去ることはできませんものね。 これとは別の改正を提案しているロヨラ法科大学院副学部長のRebecca Delfino法学教授にも話を伺ってみたら、こんな論文があるよと教えてくれました。 内容は、捏造された映像を目にすると目撃者はいとも簡単に嘘の証言をする、映像と音声で証拠を見せられたほうが生の証言を聞くよりも6倍以上の確率で陪審員の頭に残る、というものです。 捏造っぽい証拠を除外する権限は、すでに判事の側にもあるんですが、陪審員に見せていい証拠と見せてならない証拠を分ける基準はゆるゆるなのが現状。今の連邦規則だと、一方が「自分の声じゃない。その録音はフェイクだ!」と主張しても、他方は、その人の声を知ってる誰かに電話1本かけて「声が似ている」と証言してもらえばそれでOK。証拠品として陪審員に回っちゃうのだとGrossman教授も言ってました。 今のディープフェイクは音声も画像も映像もかなり本物に近くて、オレオレ詐欺でも親がコロッと騙されたりしています。こんなゆるゆるなバリアでは簡単に突破されてしまうじゃないか!というのが、改定推進派の懸念というわけです。 あと「その証拠はフェイクです!」と主張する嘘つきどもから陪審員を守る、という狙いもあります。いわゆる「嘘つきの配当(嘘とわかっていても人の印象は変わる=広めたもん勝ち)」の印象操作から裁判を守ろうって意図ですね。 大きな判例でそういう現象はすでに起こっています。たとえばトランプが前回選挙に負けたときの議事堂占拠の裁判でも、証拠品として提示された犯罪の決め手となる映像に、原告が「そんなのフェイクだ!」と主張してました。Teslaの手放し運転で起こった死亡事故をめぐる民事訴訟でも、イーロン・マスク弁護団がマスクCEOの昔の映像(Teslaの自動運転技術を自慢している)が「AIの捏造だ!」と言ってましたっけ。 このように、最近は「映像・写真・音声の証拠品が裁判に提示されるたびにニセモノだ!と言われる可能性と隣り合わせ」なのだとDelfino教授。「裁判が長引くだけならまだしも、これで陪審員が大混乱に陥る実害もあります。悪知恵のはたらく弁護士なら、この手を使って陪審員を混乱させて“自分じゃ判断がつかない”と匙を投げるまで追い込む。これも大いにあり得るリスクです」。