オープンAI、安全性を評価する新たな委員会設立-社内チーム解散後
(ブルームバーグ): 対話型人工知能(AI)「ChatGPT」を開発した米オープンAIは、AIモデルの安全性とセキュリティーを評価する取締役委員会を設置した。ガバナンスに変更を加える動きだ。同社では数週間前にこの件を担当していた最高幹部が退社し、社内チームを事実上解散していた。
新たに設置された委員会は90日かけて技術の安全対策を評価し、報告書を提出する。同社は28日のブログで「取締役会の精査に基づき、オープンAIは安全性とセキュリティーに矛盾しない方法で、採択された勧告の最新情報を公表する」とした。
最近の同社の急速な進歩は、AIが持つ潜在的な危険性をどう管理するかについて懸念を引き起こしていた。
今月に入り共同創設者でチーフサイエンティストのイリヤ・サツキーバー氏と主要な副幹部だったヤン・ライカ氏が退社すると、そうした懸念は一段と強まっていた。両氏はオープンAIでいわゆる「スーパーアライメントチーム」を率い、高性能AIの長期的な脅威に焦点を当てていた。
サツキーバー氏の退社後にオープンAIは同氏のチームを解散した。
昨年、サム・アルトマン氏の最高経営責任者(CEO)復帰後で取締役を辞任したヘレン・トナー、ターシャ・マコーリー両氏は26日、英誌エコノミストへの寄稿でアルトマン氏のリーダーシップを批判し、サツキーバー氏やその他安全担当者の離職は「オープンAIのセルフガバナンスを試す上では悪い兆候だ」と指摘した。
オープンAIの広報担当者は、元従業員からの批判を認識しており、さらに多くの批判があることも予想していると述べ、同社は懸念事項への対処に取り組んでいると続けた。
原題:OpenAI Creates Oversight Board After Dissolving Safety Team (1)
(抜粋)
(c)2024 Bloomberg L.P.
Mark Bergen