2023年6月5日、AIの進化によって一般人を狙う新たな脅威が増えていることについて、アメリカの連邦捜査局（FBI）が警告を発しました。AIの画像生成技術を利用して、SNS等で共有された一般的な写真を、猥褻な写真や動画に変換し被害者を脅迫する「セクストーション」と呼ばれる犯罪行為が増加しているとのことです。

■ディープフェイクによるコンテンツ作成

　ディープフェイクとはAIと機械学習を使用して生成または操作された広範なデジタル メディア (画像、ビデオ、音声、テキストなど。総称して「合成コンテンツ」または「合成メディア」と呼ばれます) を指します。攻撃者たちは、このディープフェイクを悪用して、普通の写真や動画から猥褻なコンテンツを生成しています。

　近年の生成型AIの進化により、特殊な技術を持たない人でも簡単にフェイクコンテンツを作成できるようになりました。

■ディープフェイクを用いたセクストーションの手口

　ディープフェイクを使って猥褻なコンテンツを生成し、個人的に保有しているだけでは犯罪にはなりません。問題は、このディープフェイクで作成されたコンテンツを用いて「セクストーション（性的な脅迫）」を行う点です。

　セクストーションとは、元々は被害者に自身の性的な写真やビデオを提供させ、それを公にしたり、被害者の家族や友人に共有すると脅迫する行為でした。セクストーションを行う犯罪者の動機は主に以下の3つです：

金銭的利益：被害者から掲載の停止を交渉するための身代金を要求する。

より違法なコンテンツの要求：掲載の停止と引き換えに、本物の性的なコンテンツの送信を要求する。

私怨やいじめ：個人的な恨みやいじめがエスカレートし、コンテンツを生成・公開する。

　セクストーションは以前から存在する脅迫行為でしたが、従来のセクストーションは、被害者に対して恐喝行為を行い「本物の性的コンテンツ」を作らせるものでした。しかし、AIの悪用によって、SNS等に掲載された一般的な写真や動画を素材とした「無数の性的コンテンツ」を作成し、これをSNS、ポルノサイト、公共フォーラムに掲載し被害者を脅迫することが可能となったのです。

■2023年4月頃からAIを悪用するセクストーションが増加

　FBIでは2023年4月からセクストーションの被害相談が増加しており、被害者には未成年の子供も含まれているとのことです。

　FBIは確認された犯罪者の要求事項として以下をあげています。

　1. 身代金（現金、ギフトカードなど）を要求し、支払わなければ画像やビデオを被害者の家族やSNSの友人に共有すると脅迫する。

　2. 被害者に実際の性的な画像またはビデオの提供を要求する。

　AIを悪用したセクストーションの被害者の多くは、他人から知らされるまで自分たちの画像がコピーされ、加工され、広められていたことに気づいていません。その後、犯罪者がセクストーションや嫌がらせを目的として、写真を被害者に直接送信したり、インターネット上で被害者自身がそれを見つけるまで公開します。

　一度ネット上に拡散されたら、被害者は悪意を持って作成されたコンテンツの継続的な共有やインターネットからの削除を自分自身では制御出来ないという重大な課題に直面する可能性があります。

■AIを悪用したセクストーションから身を守る推奨事項

　FBIはこういった犯罪に巻き込まれないために以下の推奨事項を掲載しています。

・子供たちのオンライン活動を監視し、個人的なコンテンツを共有することに関連するリスクについて話し合いましょう。

・画像、ビデオ、個人的なコンテンツをオンラインに掲載する際には慎重に行動し、特に子供たちやその情報が含まれるものには注意しましょう。

　-　オンラインに掲載した画像、ビデオ、個人情報は、あなたの知らず知らずのうちに悪意のある者によってキャプチャされ、操作され、配布される可能性があります。

　-　一度インターネット上にコンテンツを共有すると、他の人がそれを流通させたり掲載したりした場合、それを削除することは非常に困難、あるいは不可能になることがあります。

・あなた自身とあなたの子供たちの情報（例：フルネーム、住所、電話番号など）について、頻繁にオンラインで検索を行うことで、インターネット上で個人情報がどの程度露出し広がっているかを把握しましょう。

・SNSのアカウントのプライバシー設定を適用し、プロフィールや友達リストをプライベートに設定することで、写真、ビデオ、その他の個人情報の公開露出を制限しましょう。

・あなたが知らない間にインターネット上に流通している写真やビデオを探すために、逆画像検索エンジンの使用を検討しましょう。

・個人的に知り合いでない人からのフレンドリクエストを受け入れる際や、そのような人々とのコミュニケーション、ビデオ会話、画像の送信には注意を払いましょう。特に、あなたに対してすぐに情報の提供を求めたり、強制したりする人々に対しては警戒感を持つことが重要です。これらのアイテムはスクリーンキャプチャされ、録画され、操作され、あなたの知らないうちに共有され、あなた自身やあなたが知っている人を利用するために使用される可能性があります。

・見知らぬ人に金銭や他の貴重品を提供しないでください。悪意のある行為者に対して応じることが、あなたの機密性の高い写真やコンテンツが共有されないことを保証するわけではありません。

・オンライン上で既知の人々と交流する際にも慎重に行動し、特に通常の行動パターンから逸脱して行動する人々に注意しましょう。SNSのアカウントがハッキングされると、悪意のある者が簡単にそのアカウントを操作して、友人や連絡先から信頼を得て犯罪的な計画や活動をさらに進めることができます。

・複雑なパスワードやパスフレーズ、多要素認証を使用して、SNSやその他のオンラインアカウントを安全に保つようにしましょう。

・画像、ビデオ、その他の個人的なコンテンツをアップロードして共有する前に、SNSプラットフォーム、アプリ、ウェブサイトのプライバシー、データ共有、データ保持のポリシーを研究しましょう。

■日本国内でも警戒が必要

　AI技術の進化により、個人の写真や動画を不本意に改変することは一年前と比較して信じられないくらいに簡単になりました。

　日本でも同様の犯罪は今後増加すると予想されるため、SNS等に写真や動画を掲載する際にはこれまで以上に慎重に考えることが求められます。