2023年5月10日、さくらインターネット東京支社で開催された「第2回 GPT / ジェネレーティブAI勉強会」にて、「生成系AI活用時代の企業セキュリティ」について講演を行いました。400名を超える参加者と共に、ChatGPTがもたらす可能性のあるセキュリティリスクについて議論を深めることが出来ました。

　本記事では講演内容について共有します。

■サイバー攻撃者と内部犯行者によるChatGPTの悪用シナリオ

　ChatGPTの利用が広がりを見せる中で、この技術がもたらす潜在的なセキュリティリスクを検討する必要があります。

　企業に対して悪意ある行動を仕掛けてくるサイバー攻撃者を想定し、どのようにChatGPTを悪用することが出来るかを考えてみましょう。

　外部から企業に攻撃を仕掛けようとする一連の行動は、「サイバーキルチェーン」と呼ばれる攻撃ステップで表現します。

　ChatGPTは特に偵察活動、武器化、配送のステップで悪用される可能性が考えられます。

■偵察活動を支援するChatGPT

　偵察活動フェーズでは、サイバー攻撃者は標的企業のWebサイトや公開情報から情報を収集し、悪用可能な脆弱性を調査します。ChatGPTはこの偵察活動を支援し、効率化する可能性があります。

　2022年9月7日、親ロシア派とされるサイバー攻撃集団キルネットが日本政府に対して宣戦布告を仕掛けました。実際に日本国内の幾つかのサービスにDDoS攻撃が仕掛けられましたが国内からも「宣戦布告の内容と全然違うサイトに攻撃を仕掛けている」と話題になりました。

　このようにサイバー攻撃者といっても全知全能では無いので、文化が違う、土地勘の無い他国に攻撃を仕掛ける場合には的はずれな攻撃を仕掛けてしまうこともありえることがわかります。

　ChatGPTはこういった攻撃対象の選定に役立つ可能性があります。

　サイバー攻撃者がChatGPTに「日本の電力インフラを担っている企業のドメインを教えてください」と質問すれば、数秒でそれらしき企業名とドメインが列挙されます。これにより、サイバー攻撃者は狙った国の企業名とドメインのリストを簡単に生成することが可能になります。　

　日本人からすれば珍しくもない企業名ですが、もし中国やインドの電力会社を10個列挙してくださいと聞かれて即答出来る日本人は殆ど居ないでしょう。

　それはサイバー攻撃者にとっても同じことです。自分が住んでいる国以外の事情は良くわからないのです。ChatGPTに質問することで調べたい国のそれっぽい会社名とドメインのリストが簡単に生成出来ます。更にはその関連企業のドメインも列挙することが可能になりますのでサプライチェーンを狙う攻撃リストを作成するといったことも簡単に出来るようになります。

　さらに、ChatGPTと他のツールを組み合わせることで、より詳細な偵察活動が可能になります。例えば、インターネット上に公開されているIT資産を検索するデータベース「Shodan」とChatGPTを組み合わせることで、公開されているサーバーを効率的に検索するためのクエリを生成することができます。

　攻撃対象のアクセス可能なサーバー候補が見つかりました。サイバー攻撃者の視点に経つと次に知りたいことは「どのようにして侵入するか」になるでしょう。

　ポート番号8443を利用している可能性のあるアプリケーションをChatGPTに質問すると、それらを利用する可能性のあるアプリケーションの候補が出力されます。更にアプリケーションを絞って更に詳しく調査することも可能です。例えば、VMware vCenter ServerへのログインURLやデフォルトの管理者アカウントについての情報を短時間で得ることが可能です。

　これらの情報は国家の支援を得ているような資金力やスキルの高い技術者を抱えている高度なサイバー攻撃グループにとっては必要ない情報かもしれません。しかし、資金力の乏しいグループや、スクリプトキディと呼ばれるようなイタズラの延長で攻撃を仕掛けようとする人たちにとっては、有用なツールと言えるのではないでしょうか。

■武器化、マルウェア等の作成支援

　サイバー攻撃者が偵察を終えると、次に攻撃対象に侵入するための「武器」を作成します。悪意のあるコードを一見無害なファイル、例えばMicrosoft OfficeドキュメントやPDF、電子メールなどに埋め込みます。このステップが「武器化」です。

　ChatGPTによってポリモーフィック型マルウェアと呼ばれるマルウェアとして検知されないようにするステルス技術を用いたマルウェアの作成に成功した事例が存在します。ChatGPTはコードを生成する能力があるためマルウェアが量産されるかもしれないといったリスクについて警鐘をならす研究者もいます。

　・「作れる」と「実用性がある」は別問題

　ただ、現時点のChatGPTの能力ではマルウェアは作成可能ではあるものの、それで生成されたマルウェアが実際の攻撃で有効か?という点については疑問を感じます。

　ChatGPTで「テトリスが作成出来る」ということが話題になりました。ChatGPTで誰でも簡単にテトリスのようなゲームが作れることは素晴らしい技術進歩です。しかし、このテトリスをお金を出して買いたいか?と聞かれれば大半の人は「ノー」と答えるのではないでしょうか。

　つまり、「作れる」ということと「実用性がある」ということは別問題だということです。

　実際のランサムウェア攻撃に使われるマルウェアは高度化しており、検出回避だけでなく、ポートスキャン、遠隔操作、システムの暗号化などの多くの機能を具備しています。現時点では、ChatGPTでこれら全ての機能を持つコードを生成するのは困難です。努力すれば作れないこともないかもしれませんが、偵察活動と同じでそもそも自分たちで武器を作る能力のある高度な攻撃グループがChatGPTでマルウェアを生成することに拘るかと言われれば疑問を感じます。

　それよりも、ChatGPTのコード生成能力を用いたマルウェア生成サービスが活発化することの方が現実的なシナリオと考えられるでしょう。このようなサービスは既に存在しています。安価なマルウェアを利用したいと考える攻撃者用のマルウェア作成サービスが増加することで、低品質ではあるものの多数の亜種が存在するマルウェアが増加する可能性があるでしょう。

■配送、詐欺メールの校正

　武器が作成された後、次に行うのが「配送」です。サイバー攻撃者は作成した武器を電子メール、Chatツール、Webサイトを利用したドライブバイ ダウンロードなどを通じて標的のコンピュータに送ろうと考えます。

　配送の手段としてよく利用されるのがフィッシングメールです。特に、日本では「日本語」がフィッシングメールの被害からの防衛線とされてきました。英語や怪しい日本語のフィッシングメールが届いても「詐欺メール」と気づくことが出来るからです。それでもクリックする人は多いという実情があるのも事実ですが、「怪しい日本語」のメールは気づきやすいのも事実でした。

　ChatGPTは「怪しい日本語」のフィッシングメールを減少させる可能性があります。単純に機械翻訳を実行しただけでは表現や文法が正しくないことが多々ありますが、ChatGPTが「翻訳」だけでなく「校正」も行い、「日本人が見ても自然な文章」を生成可能だからです。このため、より自然な表現のフィッシングメールの増加は十分発生することが予測されるシナリオです。

　なお、AIが生成した文書を見抜く「ChatGPT Detector」と呼ばれる防御技術も出現しています。このような技術が今後、セキュリティ製品に組み込まれていくことが予想されます。

　生成系AIの進化とそれに伴う脅威の増加。これらは私たちがサイバーセキュリティに対する認識と対策を再考する契機となるでしょう。