OpenAIはAIをサイバー攻撃の「防御」に活かす取り組みを支援する「OpenAI サイバーセキュリティ助成プログラム」を発表しました。

■AIの力で防御能力を向上させる挑戦

　OpenAIはAIをサイバー攻撃の「防御」に活かす取り組みを支援する「OpenAI サイバーセキュリティ助成プログラム」を発表しました。プログラム全体で100万ドル(約1億4000万円)の資金が割り当てられており、採用された案にはAPI クレジット、直接資金、および/または同等の形式で、100 万ドルの資金から 10,000 ドル単位で支援されます。

OpenAIは本プログラムを通じて、以下の3つを目標にすると宣言しています。

AIを防御に活かすアイデア例として以下が挙げられています。

• サイバー防御者からデータを収集してラベルを付け、防御的なサイバーセキュリティ担当者を訓練する
• ソーシャル エンジニアリング戦術を検出して軽減する
• インシデントのトリアージを自動化する
• ソースコード内のセキュリティ問題を特定する
• ネットワークまたはデバイスのフォレンジックを支援する
• 脆弱性に自動的にパッチを適用する
• パッチ管理プロセスを最適化して、セキュリティ更新プログラムの優先順位付け、スケジュール設定、展開を改善します。
• GPU での機密コンピューティングの開発または改善
• ハニーポットと欺瞞テクノロジーを作成して、攻撃者を誤った方向に誘導したり罠にかけたりする
• リバース エンジニアによるシグネチャの作成とマルウェアの動作ベースの検出を支援します。
• 組織のセキュリティ管理を分析し、コンプライアンス体制と比較する
• 開発者が安全な設計およびデフォルトで安全なソフトウェアを作成できるように支援します。
• エンドユーザーがセキュリティのベストプラクティスを採用できるように支援する
• セキュリティ エンジニアと開発者が堅牢な脅威モデルを作成できるように支援します。
• 組織に合わせて調整された防御者向けの重要な関連情報を含む脅威インテリジェンスを生成します
• 開発者がメモリセーフな言語にコードを移植できるように支援します。

■AIの進化はサイバー攻撃者にも力を与える

　AIの進化はサイバー攻撃を仕掛ける側にも力を与えることになります。AIの進化は目覚ましく、人間と対話するだけでなく、プログラムコードも生成可能であり、マルウェアの亜種が爆発的に増加する可能性があります。

　また、自然な文章を無限に生成することが可能であるため、何通りものフィッシングメールを生成することも可能になります。

　それだけでなく、動画や音声を生成し本物と区別のつかないフェイクニュースやフィッシングメールを生成することが可能です。フェイクニュースが溢れ民意を操作することが可能になれば「投票」で世の中が決まる民主主義の根幹を揺るがすことになりかねません。

　OpenAIのこの新たなプログラムは、AIの進歩がサイバーセキュリティの「攻撃」だけでなく、「防御」に活かせる可能性をもたらすことを認識する重要な一歩であると言えるでしょう。今後の進展に注目です。