韓国政府も対策に乗り出した。尹錫悦（ユン・ソンニョル）大統領は8月、「ディープフェイクは明白な犯罪であり、誰もがこうしたデジタル性犯罪の被害者になりえる」として徹底的な捜査を指示。9月26日には、「ディープフェイク性犯罪防止法」が国会で可決された。 「警察は8月末から9月25日までの間に、ディープフェイクポルノに関わった容疑で387人を逮捕しましたが、今後、防止法が施行されると動画を所持しただけでも逮捕され、3年以下の懲役が科せられます。また、警察は91億ウォン（約10億円）を投じてディープフェイク検出技術を開発中です」 ■業者が語る"マスク"作り 一方、日本はというと「韓国のように社会問題になるほど深刻化はしていませんが、学生など一般人がディープフェイクポルノの被害に遭うケースが増えてきている」（全国紙社会部記者）という。 実際、ディープフェイクポルノへの関心は広がりつつあるようだ。Xにはディープフェイク技術について発信したり、その技術を使った"顔替え代行"をうたったりする業者のアカウントがいくつもある。 その中のひとり、中国を拠点に活動する日本人ディープフェイク職人の「おすしスキー」氏に話を聞いた。同氏によると、ディープフェイクという技術が飛躍的に向上したのは2018年頃だ。その前年に『FaceSwap（フェイススワップ）』という、大量の素材を学習し、精巧なディープフェイク動画をつくることが可能になるツールが登場したことがきっかけだった。 「もともとは仮想通貨のマイニングをしていましたが、相場が低迷したのをきっかけに、それに使用していた数十台のハイスペックのPCを生かすためにこの業界に参入しました。日本よりも安い電気代や、最先端のテクノロジーを利用できる技術面から、中国にはメリットがあります」 日本人と中国人をメインに十数人でチームを組織した。 クオリティの高いディープフェイク動画を制作するには、AIによる大量の機械学習が欠かせない。そのため、動画1本を作るのにも、毎日すべてのハイスペックPCを1ヵ月以上稼働させる必要があり、コストがかかる。受注額は120万円以上になることがザラだとか。 「まずは、クライアントから提供された画像素材をもとに差し替えるための顔の"マスク"を制作する。そして、そのマスクを動画の顔の動きに合わせて合成していきます。マスクさえ完成すれば、いろいろな動画に合成することが可能です」 機械学習には、素材のバリエーションが重要だという。 「顔の表情や角度を網羅できるだけの画像のパターンが必要です。例えば『笑顔』が口角が少し上がる程度の1段階目から、思いっきり爆笑している10段階目まであるとして、2段階目以降の顔の画像がなかったらマスクは1段階目の笑顔で固定されてしまうので、合成しても元の動画の顔と表情が合わず、違和感が生じます。 また、横向きの画像の素材が少なければ、動画の顔が横を向いたときに映像が崩れやすくなる」