生成AIでウクライナ人をロシア人に、ロシア製品を宣伝……中国SNSにはびこる偽動画

ファン・ワン、BBCニュース 「こんなひどいことを私が一度でも口にしたことがあるだなんて、そんなこと誰にも思われたくない。ウクライナの女性をロシア応援の顔に使うなんて、馬鹿げている」 オルガ・ロイエクさん（21）は、中国のソーシャルメディアに投稿されているさまざまな動画で、自分の顔が使われているのを見た。これは、インターネット上で簡単に使える生成人工知能（AI）の産物だ。 「そこにあるのは私の顔と私の声。でもすごく不気味だった。自分では絶対に言わないようなことを、自分が言っているので」。現在、米ペンシルヴェニア大学に通うロイエクさんはこう言った。 ロイエクさんの顔や姿を使うアカウントは複数あり、「ソフィア」や「ナターシャ」、「エイプリル」、「ステイシー」といった名前を使っている。動画の中で、この「少女」たちは北京語を話す。ロイエクさんが学んだこともない言語だ。動画はロシアから発信されているようで、中ロ友好について話したり、ロシア製品を宣伝したりしている。 「動画の9割が中国とロシアの話、中国とロシアの友好の話、強い同盟でいるべきだという話、そして食品の宣伝をしていた」 中でも「Natasha imported food（ナターシャの輸入食品）」というアカウントには、30万人以上のフォロワーがいる。「ナターシャ」はたとえば、「ロシアは最高の国だ。他の国が次々とロシアに背を向けているのは悲しい。ロシアの女性は中国に行きたいと思っている」というようなことを話し、それからロシア製のキャンディーなどを宣伝する。 ロイエクさんの家族は、今もウクライナにいる。それだけに、ロイエクさんは自分自身のこととして、この内容に激怒したのだという。 しかし個人を超えた広い意味の問題としても、ロイエクさんのケースは、急発展するAI技術の発展速度があまりに急速で、技術を規制し人間を守ることが、いかに現実的な急務かを浮かび上がらせた。 ■ユーチューブから小紅書へ ロイエクさんの姿を借りた、北京語を話すAI版は、2023年に出現し始めた。ロイエクさんがユーチューブで自分自身のチャンネルを開設した直後だったという。ロイエクさんは、このチャンネルをあまり頻繁に更新していない。 チャンネル開設から約1カ月後、ロイエクさんは、中国のソーシャルメディアでロイエクさんが北京語をしゃべっているのを見たという人たちからメッセージを受け取るようになった。 興味をそそられたロイエクさんは自分自身を探し始め、中国の写真投稿サイト「小紅書」と、動画共有サイト「ビリビリ」で、AI製の自分の似姿を見つけた。 「アカウントはたくさんあった。プロフィールにロシアの国旗などを載せているものもあった」 ロイエクさんはこれまでに、自分の似姿を使ったアカウントを35件見つけているという。 ロイエクさんの婚約者がこれらのアカウントについてX（旧ツイッター）に投稿したところ、自分の似姿作成に使われたとロイエクさんが主張するツールの開発会社、ヘイジェン（HeyGen）が反応した。 ヘイジェンは、ロイエクさんの顔を使った動画が4900件以上作られていることを明らかにした。また、ロイエクさんの画像をブロックし、ツール内で使えないようにしたと述べた。 ヘイジェンの広報担当者はBBCに対し、同社のシステムがハッキングされ、「未承認コンテンツ」と呼ばれるものが作成されたのだと説明。ツールの悪用を防ぐため、セキュリティーと検証プロトコルを直ちにアップデートしたと述べた。 しかし、香港大学の張湖月（アンジェラ・チャン）教授は、ロイエクさんに起きたことは「中国ではとても当たり前になっている」と話す。 張氏は、中国には「偽造や個人情報の不正流用、ディープフェイク（AIを使って本物のように加工した画像や動画）の製造に特化した巨大な地下経済が存在する」と語った。 中国は世界で最も早くAI規制に乗り出した国の一つだ。肖像権をデジタル捏造（ねつぞう）から守るため、民法を改正したほどだ。 公安部が2023年に公表した統計によると、当局は「AIによる顔のすり替え」の容疑で515人を逮捕している。中国の裁判所も、こうした分野の事件を取り扱っている。 それではなぜ、ロイエクさんの似姿動画がこれほど大量にインターネットに流れ出したのか？　 中国とロシアの友好関係を促進する内容だったからではないかというのが、考えられる理由のひとつだ。 中国とロシアは近年、以前よりかなり接近している。習近平国家主席とウラジミール・プーチン大統領は2022年、両国は「限界なし」の友好関係にあると述べた。また、今月16日から2日間の日程で、プーチン氏が中国を訪問した。 中国の国営メディアは繰り返し、ウクライナ侵攻を正当化するロシアの主張を報道している。また、中国のソーシャルメディアでは、ウクライナ侵攻をめぐる議論は検閲されている。 イタリアのボローニャ大学とベルギーのルーヴェン・カトリック大学で法律と技術の研究をしているエミー・ハインさんは、「問題のアカウントが集団的な目的の下に調整されているか不明だが、政府のプロパガンダに沿ったメッセージの宣伝は、間違いなく中国やロシアに利益をもたらす」と指摘した。 しかしこれは、ロイエクさんのような一般人が依然として弱い立場にあり、中国の法律に抵触する危険性があることを意味する、と専門家は警告する。 英オックスフォード大学でテクノロジーと地政学を研究するケイラ・ブロムキストさんは、「人為的に生成された政治的にセンシティブな内容について、個人が濡れ衣を着せられる危険性」があり、「適正な手続きなしに制定された迅速な処罰」を受ける可能性があると述べた。 ブロムキストさんはまた、中国政府のAIとオンラインプライバシー政策の焦点は、略奪的な民間主体に対する消費者の権利構築だが、「政府に対する市民の権利は依然として極めて弱い」と強調した。 ハインさんも、「中国がAI規制で根本的な目標にしているのは、社会の安定維持と、技術革新と経済発展の促進のバランスを取ることにある」と説明する。 「文言の上では厳しい規制のようだが、選択的に施行されている証拠がある。特に生成AIライセンス規則については、法律が必要に応じて取り締まりの根拠を提供するという暗黙の了解の下に、イノベーションに適した環境を作り出すことを意図している可能性がある」 ■「最後の被害者ではない」 しかし、ロイエクさんのケースは中国の外まで及んでいる。猛スピードで進化しているように見える分野を規制しようとすることがいかに難しいかを示すもので、規制当局は常に追いつけていない。しかし、当局が努力していないわけではない。 欧州議会は今年3月、世界で初めてAIのリスクを抑制する包括的枠組みとなるAI法を承認した。昨年10月にはジョー・バイデン米大統領が、AI開発者に安全性の結果を政府に共有することを義務付ける大統領令に署名した。 AIの成長競争と比べると、各国と国際的な規制の進展は遅い。しかし、「最も危険な脅威とその低減方法について、より明確に理解し、より強いコンセンサスを得る」必要があると、前述のブロムキストさんは話す。 「それでも、各国内と各国間の意見の相違が、具体的な行動を妨げている。アメリカと中国が主要なプレーヤーであるが、コンセンサスを構築し、必要な共同行動を調整するのは困難だろう」 一方、個人のレベルでは、インターネットに何も投稿しないこと以外に、人々ができることはほとんどないようだ。 ハインさんは、「やるべきなのは、相手に仕える素材を渡さないことだけだ。自分たちの写真や動画や音声を、公のソーシャルメディアにアップロードしないこと」だと話す。「でも、悪者は常に他人の成りすまそうとしているので、たとえ政府が制限しても、規制とのモグラ叩きの中で、一貫した成長があると思う」 ロイエクさんは、自分が生成AIの最後の被害者でないことは「100％確実だ」と話す。だが、それによってインターネットから追い出されはしないと決意している。 ロイエクさんは、自身の経験をユーチューブチャンネルで共有した。中国人ユーザーの中には、ロイエクさんの似姿が使われている動画に、フェイクだと指摘するコメントを書く手伝いをしてくれる人もいるという。 現在では、似姿の使われている動画の大半は削除されたという。 「私は自分の経験を共有したかったし、オンラインで目にするものすべてが本物ではないと、確実に理解してもらいたかった」と、ロイエクさんは語った。 「私は自分のアイデアを世界と共有するのが大好き。詐欺師たちにそれを邪魔されるなんて、ありえない」 （英語記事　How AI turned a Ukrainian YouTuber into a Russian）