Shutterstock.com

人工知能（AI）は社会に多く貢献しているが、AIを活用したディープフェイクは大きなの犯罪を生み出している。AIが生成したディープフェイク、特にイーロン・マスクが登場するディープフェイクは消費者から金などを騙し取るのに使用されており、世界で推定120億ドル（約1兆8000億円）の詐欺被害を引き起こしている。 脅威を検知するプラットフォームを展開するSensity（センシティ）の報告によると、こうした超リアルな偽のデジタルコンテンツが洗練される中、詐欺を働く者らは世界一の富豪であるマスクをお気に入りのディープフェイクとして利用している。詐欺師らは悪意を持ってAIを使っており、こうしたディープフェイクは企業や個人、政府などにとって脅威となっている。米CBSテレビはこのほど、ディープフェイクがもたらす驚くべき損害を報じた。AIディープフェイクに関連する詐欺被害は今後3年間で3倍以上の400億ドル（約6兆円）に達すると予測されているのだという。 ■AIディープフェイクがもっともらしく見える理由 ディープフェイクは深層学習（ディープラーニング）や敵対的生成ネットワーク（GAN）などの高度なAI技術を利用して、本物とほとんど見分けがつかない偽の動画や音声、画像を作り出す。これらのツールはかすかな表情や声のパターン、癖すらも模倣することができ、作り出すものを本物らしくしている。詐欺師らはあなたが信頼する人物になりすまして投資を要求する。 AIディープフェイクが広く浸透しているのには主に3つの理由がある。 1. 超リアルななりすまし AIアルゴリズムの進歩により、顔の特徴や動きを融合させられるようになった。例えば、ある人物の顔を別の人物の体とリアルタイムで組み合わせることができる。多少の欠陥やぎこちなさがあるかもしれないが、ディープフェイクは無防備な人に本物だと思い込ませさえすればいいのだ。判別が難しい顔の入れ替えについては下にある動画を参照してほしい。 2. 音声クローン技術 わずか数秒の録音された音声を使うだけで、AIツールはイントネーションや感情の抑揚を含め、人の声を複製することができる。これにより、詐欺師らは恋人や共同事業者、経営者になりすますことができる。 3. ディープフェイク・ツールの広がり 現在、強力なAIプログラムが数多く一般公開されており、往々にして無料で利用できる。このような技術を多くの人が利用できるようになったことで、さほどスキルを持たない悪意ある者たちはもっともらしい偽物を作り出す力を手にしている。