rafapress / Shutterstock.com

米メタは11日、SNSで知り合った相手に誘導されて裸や性的な画像を送付してしまい、脅迫の被害に遭う「セクストーション（性的脅迫）」から10代の少年少女を保護するための新しい安全機能をインスタグラムに搭載すると発表した。まもなく新機能のテストを開始するという。 性的な写真や動画をだまし取られ、「ネットにさらす」「拡散する」などと脅されて金銭を要求されるセクストーションの被害件数は増加傾向にある。子どもや10代の若者が標的となる事例が増えており、警察も警告を発する中、SNS上で未成年ユーザーをどのように守るかが課題となっていた。 メタは、こうした問題や、ヌード画像を一方的に送り付けられる迷惑行為に対処するため、インスタグラムのダイレクトメッセージ（DM）に「ヌードフィルター」を近く導入すると発表した。インスタグラムが性的な画像を共有・要求する場として利用され、詐欺被害も生じていることを同社は認めている。 この新機能は、送信されたヌード画像を自動的に検出して「ぼかし」を入れる。また「送信する前によく考える」ようユーザーに促し、「返信しなければならないというプレッシャーを感じる必要はない」と伝え、気が変わったなら送信を取り消すことが可能だと注意喚起する。 フィルター機能は、ユーザーに受信した画像を削除するか表示するかの選択肢を提供する。また、センシティブな画像をオンラインで送信する場合、同意なしに画像が共有されたりスクリーンショットを撮られたりするリスクや、相手が身元を偽っている可能性があることなど、注意すべきポイントやヒントをユーザーに提示する。 メタによると、この機能は全世界の18歳未満のユーザーを対象に「デフォルトで有効」になり、成人に対しては「有効にするよう促す」通知が届く。

ヌード画像、運営に見られる？

米ネットいじめ研究センターの共同ディレクターでハーバード大学バークマン・クライン・センター学部アソシエイトのサミール・ヒンドゥージャは、メタの発表文の中で新機能について「よく考えられ、機微に配慮した適切な方法」でネットの性的コンテンツ問題にアプローチしていると評価。ユーザーが「トラウマになりうる画像」に接する機会を減らし、好ましくない影響について学べる機能だと述べている。 ■ヌード画像、運営に見られる恐れは？ この「ヌードフィルター」のような画像分析を行うには画像にアクセスする必要があるのは明らかだが、これはインスタグラムの運営側がユーザーのヌード画像をチェックしているということになるのだろうか。メタの説明によれば、インスタグラムのフィルターはユーザーのデバイス上で機械学習を利用して実行されるため、ユーザーが報告する選択をした場合を除き、運営側が「画像にアクセスすることはない」という。 全米行方不明・被搾取児童センター（NCMEC）のシニアバイスプレジデント、ジョン・シーアンは、「企業には自社のプラットフォームを利用する未成年者を確実に保護する責任がある。この新しい措置によって未成年者による通報が増え、ネット上の児童搾取の蔓延が抑制されると期待している」と述べた。 未成年を標的としたSNS上での搾取行為やセクストーションの増加については、世界各地の警察が警鐘を鳴らしている。被害者が自殺するケースも増えている。 米連邦捜査局（FBI）は最近、主に14～17歳の少年を標的にしたセクストーション事件が増加していると報告。被害者が「孤独感にさいなまれ、恥ずかしさから助けを求めるのを恐れるケースが多い」「ゆすられた被害者の少年の自殺が憂慮すべき件数に上っている」としたうえで、被害者に「ひとりではない」と伝え、標的にされた場合には「信頼できる大人に助けを求められる」環境を整備することが重要だと強調した。