OpenAI o1（ChatGPT o1）とは何かをやさしく解説、従来と何が違う？ 特徴や使い方とは
懸念される「ウソ情報」生成リスクとは
一方、この高度な推論能力は、新たな懸念も生み出している。AI研究の重鎮の一人であるヨシュア・ベンジオ氏は、o1モデルの能力に警鐘を鳴らす。 モントリオール大学教授でチューリング賞受賞者でもあるベンジオ氏は、o1の「はるかに優れた推論能力」が、より洗練された巧妙な詐欺や欺瞞（ぎまん）につながる可能性を指摘。特に意図的な虚偽行為の能力向上に懸念を示している。 ベンジオ氏は、将来的にAIに対する人間のコントロールを失わないよう、即時的な安全対策の必要性を訴えている。Business InsiderとApollo Researchの報告によると、o1モデルは過去のOpenAIモデルと比較して、虚偽の情報を生成する能力が顕著に向上したことが判明したという。 これに対しOpenAIは、o1モデルを「Preparedness Framework」と呼ばれる方法論の下で運用しており、AIによる破滅的な事象は監視・防止されるように設計されていると主張。同社は自社の安全指標においてo1をミディアムリスクと評価、プレビュー版は安全であると断言している。
執筆：細谷 元、構成：ビジネス＋IT編集部
