近い将来、オンライン詐欺はAI同士の戦いになる(海外)
ハーバード大の研究で、AIによるフィッシング詐欺に人間によるものと同等の効果があることが明らかになった。 AIの大規模言語モデルは自動でフィッシングを行うことができ、コストも95%削減されるという。 だがAIは、フィッシングを察知することもできる。 オンライン詐欺は近い将来、AI同士の戦いになるかもしれない。一方が攻撃をしかけ、もう一方がそれを防ぐ、というように。 オンライン詐欺は、ますます広がるばかりだ。ハーバード大の調査によると、新たなAIテクノロジーによって、防ぐことはさらに難しくなるという。 ハーバード・ビジネス・スクールの研究者らが、参加者の60%がAIの自動フィッシング・メールにだまされた、という研究結果を発表した。これは、人間が作ったフィッシング・メッセージに匹敵する成功率だと『ハーバード・ビジネス・レビュー(Harvard Business Review)』に書いている。 フィッシング詐欺は、ユーザーを騙して個人情報を提供させる。通常、企業や個人を装ってメールその他のメッセージを送り、クレジットカード情報やパスワード、その他の機密情報を要求するものだ。 フィッシング詐欺は、インターネットとほぼ同時に誕生したが、AIモデルにより「詐欺の深刻さ」は増していると研究者らは述べた。この研究で大規模言語モデル(LLM)は「フィッシングの全行程」を自動化することができることを研究者らは明らかにした。情報を集め、ターゲットを選別して、メールを作成するといったコストをAIによって、95%削減することができるという。 「そのため、今後数年でフィッシングは劇的に悪質さを増し、数も増えることになるだろう」と著者らは書いている。 フィッシング詐欺を悪化させるAIモデルだが、その一方で、フィッシング詐欺の発見や撲滅に役立つことも、研究者らは示唆している。 中には、それに秀でたAIモデルもある。Claudeは、「そうと明らかではないフィッシング・メールであっても、時には人間よりも高い確率で」特定したと研究者らは書いている。
Kenneth Niemeyer