AIによる政治家の偽音声作成、大半のツールが悪用可能 5/27-6/02
一週間を始めるにあたって、押さえておきたい先週気になったセキュリティニュースのまとめです。セキュリティニュースは毎日多数の情報が溢れかえっており「重要なニュース」を探すことが大変です。海外の報道を中心にCISO視点で重要なインシデント、法案や規制に関して「これを知っておけば、最低限、恥はかかない」をコンセプトに、コンパクトにまとめることを心がけています。
■選挙におけるAI悪用:AI音声クローンで有権者を操作する
Center for Countering Digital Hate(デジタルヘイト対策センター)は、以下6つのAI音声クローン作成ツールを利用して、政治家の声で選挙の偽情報を生成することに対する安全対策を評価し、結果を公開しました。
- ElevenLabs
- Speechify
- PlayHT
- Descript
- Invideo AI
- Veed
著名な政治家の声で特定の虚偽の陳述を行うテストを合計240回実行したところ、ElevenLabsのみ米国と英国の政治家の声を特定し、複製されるのを阻止しましたが、その他ツールを利用した場合、80%のケースで説得力のある音声クローンを生成するという結果に至りました。現在のAI音声クローン生成ツールは悪用に対して非常に脆弱であると指摘しています。
・AIによって生成された偽の音声
AIに関するインシデントを調査している、OECD AIインシデントモニターによると2023年3月から2024年3月にかけて、「音声」関連のインシデント件数が前年比で 697% 増加したと記録されています。このインシデントのうちの幾つかは選挙に関するものが含まれており、2024年1月には、AIが生成したジョー・バイデン大統領の音声クローンによる「ロボコール」を受信し、投票に行くことを思いとどまらせるというインシデントが記録されています。
CCDHは、現在のAIに関する規制や国際的な取り組みは殆ど的外れであり、行動を伴わない自発的なコミットメントは無意味であると「拘束力の必要性」を指摘しています。
■米国司法省が大規模Botnet「911 S5」の解体発表、管理者も逮捕
アメリカ合衆国司法省(DOJ: United States Department of Justice)は、「 Office of Public Affairs｜ 911 S5 Botnet Dismantled and Its Administrator Arrested in Coordinated International Operation｜United States Department of Justice」において、ボットネット「911 S5」を解体し、中国籍のワン・ユンヘ容疑者（35）他2人を逮捕したと発表しました。
Botnet「911 S5」は世界約200カ国、1,900万台のコンピュータに感染した史上最大規模のボットネットといわれています。
起訴状によれば、ワン容疑者は世界中の何百万台もの家庭用コンピューターを感染させるマルウェアを作成し、感染したコンピューターへのアクセスをサイバー犯罪者に販売していたとのこと。
このような手段で販売されていた家庭用コンピュータは金融犯罪、ストーカー行為、爆破予告や危害の脅迫の送信、商品の違法輸出、児童搾取資料の送受信等、様々な犯罪に悪用されていたということです。
今回の逮捕によって世界最大規模のBotnetが解体に追い込まはしたものの、自分が使用しているパソコンやルータ等がBotnet化するのを防止する必要があります。
FBIではBotnetに感染していないかを確認するための方法を公開しているので、問題ないか確認してみることを推奨します。
★国内、海外における重要な注意喚起★
該当期間中に発表された、CISAのKEVとJPCERT/CCを掲載します。自社で該当する製品を利用されている場合は優先度を上げて対応することを推奨します。
- Google Chromium V8 Type Confusion Vulnerability
- Justice AV Solutions (JAVS) Viewer Installer Embedded Malicious Code Vulnerability
- Linux Kernel Use-After-Free Vulnerability
- Check Point Quantum Security Gateways Information Disclosure Vulnerability
・JPCERTコーディネーションセンター（JPCERT/CC）注意喚起
- 該当期間中の掲載は御座いませんでした。
