企業が生成AIを使う時に気をつけたい3つのこと、万全な管理のコツは「ユーザーとIT部門の連携」にある
【ユーザー側の対策】ユーザー側の対策AIに文章などのコンテンツを作成する前に、必ず人が確認するプロセスを導入するのが1つの方法である。特に専門知識が関わるような内容を扱う場合は、専門家による監査の実施が、意図しない誤情報の発信を防ぐことになる。また、プロンプトに入力する内容があいまいだと、ハルシネーションが起きる確率が高まるため、指示の明確化に取り組む必要がある。 【IT部門の対策】IT部門は、生成されるコンテンツの範囲や形式に制約を設けることなどで、ハルシネーションを減らす努力が必要だ。特定の業務や用途に合わせてトレーニングされたAIを利用することで、より正確な出力結果が期待できる。
以上、生成AIを活用するにあたり、気をつけておきたい3つのポイントを挙げて説明した。鍵を握るのは、生成AIの利用環境を提供するIT部門の取り組みだ。まずは、IT部門が生成AI利用に関する社内ポリシーを策定し、周知し、実際に生成AIの利用が始まったらコーチング機能を利用して、ユーザーにリアルタイムの注意喚起や指導を実施してほしい。また、生成AIの活用状況を見ながら、定期的にセキュリティ教育を実施することも大切だ。
生成AIは、適切に管理しながら利用できれば強力な業務効率化ツールになるが、まだまだ安定していないのが実情だ。その意味で、依然として両刃の剣だと言える。ユーザーの意識を向上させることに加え、IT部門がツールを正しく利用しながら、適切なサポートを提供する必要がある。ユーザーとIT部門の両輪が効果的に連携することで、初めて企業の生成AI導入が成功するだろう。
小林 宏光 :Netskope Japan ソリューションエンジニアマネージャー