証拠にAIフェイクが混じる現代。裁判はどうなる？ 専門家が答える
提案が通ればどうなるの？
Grossman教授とGrimm元判事が起草した改正案は11月8日、連邦裁判所証拠関連規則諮問委員会の審議に諮られました。提案が通れば、証拠の信ぴょう性を問う被告人側がまず陪審員を説得できるに足る十分な証拠を判事に示し、証拠を出した側もその裏付けを提示します。 で、双方の主張を聞いたうえで判事が裁判前のヒアリングで証拠能力（陪審員に当該証拠を見せることで生じる偏見や害よりも、見ることで事実関係の理解が深まる利益のほうが高いかどうか）を決める、という流れになります。 Delfino教授側の提案（法学ジャーナルで公開されているが委員会への提出はまだ）では、ディープフェイクの問題を陪審員の手から完全に引き離す内容となっています。 まず証拠がAIによる捏造だと主張する側が、裁判開始前に専門家から鑑定結果を取り寄せて提示。裁判官が鑑定結果・論述、証拠の優越性をもとに証拠品として採用するかどうかを判断。係争中は「本物の証拠」としてこれを扱うよう、判事が陪審員に指示します。 さらにDelfino教授の提案では、「そんなのディープフェイクだ！」と主張する側が鑑定費用を負担することになってます。そうすればコストもかかることだし、安易にフェイク！フェイク！と叫べなくなるだろう、との判断。もちろん、お金持ちだけエコひいきになっちゃいけないので、費用を負担できない経済状況の人には裁判官がこれを免除して、フェイクと言われた側が費用を負担することもあり得ますけどね。
今すぐには変わらない
どっちみち改定までには何年もかかります。まずいろんな委員会の承認を得ることが必要だし。最終的には最高裁のOKも要りますからね。 目下、ディープフェイク関連の提案は、証拠規則諮問委員会のところで止まってしまってます。 委員会で証拠品問題の調査を担当する、フォーダム大学ロースクールDaniel Capra教授も、変更する前にまずは今の規則の範囲内で、判事がどうディープフェイクに対処するかを見極めたいという慎重姿勢でしたが、最近の報告書では「ディープフェイクは真の転換点。それに則した（新しい）ルールが要るかもしれない」と付記しています。 アリゾナ州ではGates元判事のAI捏造証拠対策委員会が中心となって、法廷で導入できる技術的ソリューションがないかを検討中です。学会、政府の解析専門家、テック大手がフェイク検出テクノロジーの開発を急げば、生成型AIの開発者は偽コンテンツ検出ツールや、生成段階でデジタルの透かしを入れる技術の開発を進めていて、まるで軍事開発レースの様相。 でも「まだ法廷で使えるようなものはひとつもないと思う」というのが、検出ツールをいろいろ見てきたGates元判事の実感です。 ディープフェイクに詳しいノースウェスタン大学コンピュータ学科教授のV.S. Subrahmanian氏のチームが行なった、最新ディープフェイク検出ツール4種のテスト結果も見てみたんですが、惨憺たるものでした。捏造の映像なのに本物と誤判定されたケースが71～99%もあったんです。ダメじゃん…。 透かし技術も、普及に時間がかかるだろうし、そんなにまだ信頼性も高くないので、少なくとも今すぐ解決にはならないというのが氏の意見。「どんな手を使って保護しても、それを破る方法を見つけようとする人はかならず出てくるものですからね」と言ってました。
