ChatGPT Plusユーザーを対象にプラグインが開放され既に88個ものプラグインが提供されています。今回はChatGPTのプラグインがソーシャルエンジニアリングの入り口として悪用されるリスクについて考察します。

■ソーシャルエンジニアリングとは?

　ソーシャルエンジニアリングとは、人の心理を巧みに操作したり、人が油断する瞬間を見つけることで、標的となる人の「隙」に付け込み重要な情報を盗み出そうとする攻撃手法のことです。

　例えば上司からの緊急の連絡を装ったり、偽の儲け話をしたり、様々な方法で標的の人物を騙し、情報を奪おうとします。

■ソーシャルエンジニアリングと相性の良いChatGPT

　ソーシャルエンジニアリング対策には色々なものがありますが、その一つに「データを要求されたら、疑ってかかる」という行動習慣が推奨されています。

　企業のセキュリティ研修等では「怪しいメールには反応しない」などの研修が含まれていることが多く「メールで何かを聞かれたら答えない」という行動習慣を持っている人は少なくないでしょう。

　ただ、メールと同レベルでChatGPTに警戒心を持っている人はどれだけ居るでしょうか。ChatGPTという未知のサービスに対して「喜んで情報を提供する」人は結構な数が存在するのではないかと予想しています。

　個人情報漏洩リスク、機密情報漏洩リスクがあるとは新聞やテレビでもよく報道されています。しかし、それはあくまで企業として使う時の話であって、個人として利用する場合には「私の個人情報なんて漏れたって別に気にしない」と考えている人も少なくないのではないでしょうか。

　データを入力している先がChatGPTであれば「安全だろう」と考える気持ちは理解出来ます。

　しかし、「ChatGPTのプラグイン」を利用しているとしたら、その考えは危険と言わざるを得ません。プラグインはOpenAIではない第三者によって作られどのようにデータが取り扱われるかを利用者が完全に把握することは難しいからです。

■提供元の安全確認が難しいChatGPTプラグイン

　2023年5月19日時点で88個のプラグインが提供されています。その全てが安全性を確保しているわけではない可能性があることに注意が必要です。

　ChatGPTのプラグインの選択画面はユーザーにとって非常にシンプルで利用しやすいUIが採用されていますが、それと同時に安全性の確認が難しいという課題も存在します。

　例えば、表示されるアイコンは実際に公式提供者から出されているものなのか、その出展者の正当性が保証されているのかUI上から確認する手段がありません。

　「食べログ」と表示されてはいるものの、これが「なりすましではない保証」はどこにあるのでしょうか?「食べログ」に関しては検索すると公式サイトで宣言されているので公式提供であることは間違いがないでしょう。ただ、他のプラグインについても「検索して公式に提供されているものか」を確認する手順が重要であることがわかりました。

　なりすまし防止のために、プラグイン検索のUI上で提供元へのリンクや出展者の身元を保証する認定バッジ等も掲載されるような改善が期待されます。

■提供元が分かっても安心出来るとは限らない

　提供元が判明したからといって、それが安全であるとは限らないという事実も覚えておくべきです。

　「Algorithma Plug-in」というプラグインは公式サイトらしきものが見当たりませんでしたが、OpenAIのコミュニティサイトで制作者らしき人物のコメントを発見しました。

　投稿の内容からすると、10歳の娘がこのプラグインを作成し、父親が代理で投稿したようです。とても感動的で素敵な話です。

　ゲームを開始するとキャラクター作成のためキャラクター用の名前と性別、生年月日の入力が求められます。それらの入力が完了するとゲームが始まります。昔のゲームブックをChatGPT上で再現していてアイデアとしてはとても面白いプラグインです。

　しかし、セキュリティという観点からはこのような感動的な話でも「疑う視点」を持たなければなりません。

　本当に素晴らしい話だと思うのですが、10歳の娘が作成し、それを代理で父親がプラグインとして登録したゲームのデータ管理はどのようにして行われるのでしょうか?仲睦まじい親子のやりとりでこんなことを指摘するのは本当に心苦しいですが、プラグインのリスクの一例として「プラグインのデータ管理体制は安全か?」と考えざるを得ないのです。

　もし、これがサイバー攻撃者が作成したゲームで、「名寄のためのデータ収集に利用しているとしたら?」そういうリスクを想定せざるを得ないのです。

■ChatGPTプラグインに無警戒な今ならデータを集め放題

　現在、ChatGPTのプラグインの提供が開始され「待ちわびていたユーザー」は様々なプラグインを試していると推測されます。実際Chatwithpdfの提供者はプラグイン公開後に50万リクエストが発生しシステムダウンに苦しんでいたことを明かしています。

　既に利用者が1億人を超えたとされているChatGPTですから各プラグインにも相当なトラフィックを発生させていると推測されます。プラグインを公開する側の視点では「まだ88個しか存在しない」ので今ならChatGPTブームに便乗するチャンスと言えます。

　これはサイバー攻撃者にとってもチャンスだと言うことです。ChatGPTのプラグインには株や不動産の資産管理ツールや旅行検索など「個人情報」を断片的に集めるには都合の良いプラグインが多数存在しています。これらに紛れて悪意ある人物が正常なサービスを装い「プラグイン」を提供しない保証はありません。

　ChatGPTを運営するOpenAIが制御出来るのはChatGPT上のデータ入出力と、サードパーティのシステムへのデータ受け渡しに利用するプラグイン部分までです。ここで犯罪行為や申請と異なる挙動を検出した場合にはOpenAIはプラグインを利用停止処分などの罰を与えることが可能です。

　しかし、この部分には問題がなくサードパーティ上のシステムにデータが渡ってしまったら、このデータの取り扱いをOpenAIが完全に捕捉するのは不可能です。資産状況や住所、氏名を一つのデータとして名寄することが簡単に実現出来るリスクがあります。

■そのプラグインの向こう側に居るのは誰ですか?

　プラグインを有効化する前に「プラグインの向こう側では誰が運営しているんだろう」と想像してみてください。

　実在する企業になりすますようなプラグインは存在しないと思うなら、世界中に溢れている実在する企業になりすましたフィッシングメールや、フィッシングサイトの存在を思い出してください。

　ChatGPTプラグインという未知のサービスに対して「喜んで情報を提供する」状態がいかに無防備であるかを考えてみてください。

　ChatGPTのプラグインはChatGPTの能力を大幅に向上させます。その一方で、それに伴うセキュリティリスクも否応なく付いてくることを忘れないでください。テクノロジーの進化は、常に新たな脅威を産み出します。ソーシャルエンジニアリングのリスクを理解し、安全な利用を心がけることが大切です。