選挙影響もくろみ米オープンAIのモデル利用、事例多数と報告書
[9日 ロイター] - 生成AI(人工知能)「チャットGPT」を開発した米オープンAIは9日発表した報告書で、選挙に影響を与える目的で同社のAIモデルを使用し、長文記事や交流サイト(SNS)への投稿などの形で偽コンテンツを生成した事例を多数確認したと明らかにした。 マルウエア(悪意あるソフト)の作成や欠陥修正、ウェブサイト・SNS向け偽コンテンツ作成といった悪意ある活動のためにチャットGPTを含むAIツールが利用されるケースが増えている。 同社は今年、米国の選挙に関する記事などの作成で使用されたチャットGPTアカウントを8月に無効化するなど、20以上の悪意ある試みを防いだという。 7月にはルワンダの選挙に関し、Xへの投稿を生成するのに使用されたアカウントを多数削除している。 オープンAIによると、悪意ある活動のいずれも、選挙に大きな影響を与えることはなかった。 11月に米大統領選を控える中、AIツールとSNSを使用した偽情報拡散に懸念が高まっている。 米国土安全保障省によると、ロシア、イラン、中国がAIを利用して偽情報や分断をあおる情報を広めるなどし、米大統領選に影響を与えようと試みるリスクが増大しているという。