トラブル多発の生成AIの現状

画像やテキスト、動画など多岐にわたるデータを生み出せる「生成AI」。企業での利用が急速に進んでいるが、トラブルも多発しており、本格的なビジネス運用にはまだまだ時期尚早という印象も強い。そんな生成AIトラブルの最前線について、「シティライツ法律事務所」所属の弁護士・前野孝太朗氏に話を聞いた。 【画像】AIツールで性的な加工を施した画像が拡散されたテイラー・スウィフト

著作権侵害に情報漏洩…生成AIのトラブル

2022年、画像生成AI「Midjourney」、チャットボット「ChatGPT」などの生成AIサービスがスタートしてから今日に至るまで多くのユーザーが利用してきた。精度が高く、膨大な量のデータを生み出すだけではなく、法律やコンプライアンスなどのチェックができる優秀なツールもあり、これからの働き方を変える可能性を秘めている。 だが、その手軽さゆえに名誉毀損や著作権侵害、情報漏洩などを引き起こすリスクも高く、大きな騒動になったトラブルも見受けられる。 たとえば今年1月24日、Xでアメリカのシンガーソングライターであるテイラー・スウィフトの写真をAIツールで性的な加工を施した画像が拡散。すでにオリジナルの画像は削除済みだが、閲覧数は2700万回を超え、Xのセーフティーチームは監視を強化、似たような画像を積極的に削除するとコメントを出す事態になった。 2023年には、韓国の大手メーカー「サムスン」でChatGPTによる情報漏洩が発生し、同年5月に生成AIの利用を原則禁止にする方針を策定している。 また、日本でも、4月1日には、海上保安庁のパンフレットが生成AIによって作成されたものだとしてSNS上で著作権侵害を訴える声が殺到し、配布中止に追い込まれる事態に発展した。 生成AIには、差別発言や不適切な情報を出力してしまう「ハルシネーション」というトラブルも考えられ、こうした不正確なデータが生まれてしまうとサービスの利用停止につながる可能性もある。 トラブルが世界的規模で増えつつある生成AIだが、効果的な対策や制度設計が不十分な印象も受ける。現在は、生成AIによるトラブルが徐々に問題視されてきているフェーズだと前野氏は語る。 「現状、生成AI関連のトラブルについて、法的な判決が下された事例はほとんどなく、水面下での交渉や炎上によりAI生成物の発表をストップさせるケースが大半です。たとえば、あるイラストレーターの作品をAIに学習させて生成されたとみられる創作物に対し、水面下で取り下げを要求する例は、すでに見受けられます。こうしたトラブルは、今後ますます増えていくでしょうし、制度整備が進むにつれて交渉や裁判も多くなるでしょう」