医師と同じような説明が必要

Photo by gettyimages

　なぜ「AIを使っている」という感覚はプラセボ効果だけを生み、ノセボ効果を生じさせなかったのか。研究者らはいくつかの仮説を提示しているのだが、そのひとつにおいて、「AIパフォーマンスバイアス」があったのではという指摘がなされている。 　AIパフォーマンスバイアスとは、文字通り、AIを使うとパフォーマンスが上がるのではないかという偏見(思い込み)だ。研究者らは、被験者らが一般的にAIに対して高い期待を持っているため、否定的な説明がその期待を覆すことができなかった可能性があると説明している。社会全体のAIへの肯定的なイメージが、実験での否定的な説明の効果を打ち消してしまったというわけだ。 　もちろん今回の研究は、実験室内という限られた条件での結果であり、実際の企業の中で使われているAIシステムにおいて同様の現象が見られるとは言い切れない。しかし研究者らは、社会一般のAIに対する期待がAIの効果にどのような影響を及ぼしているのか、注意する必要があると指摘している。 　否定的な説明をしてもAI使用時にパフォーマンスが上がったのなら良いではないか、と感じたかもしれない。しかし今回の「プラセボ効果のみが見られ、ノセボ効果は見られなかった」という結果が、本当に社会一般でのAIに対する期待から生じたものであれば、AIの効果はそれが社会の中でどのように評価されるかによって左右されることになる。極端な話、マスコミなどを通じて「けっきょくAIなんて見掛け倒しだった、効果が無いどころか逆に人々の作業を邪魔するだけ」といった評価が流布されれば、企業内でAIシステムを使って作業する人々のパフォーマンスも落ちてしまうかもしれない。 　もちろんAIの効果は思い込みだけが生み出しているのではなく、AIはその性能と使い方によって、私たちに具体的な成果をもたらしてくれる。それは薬の場合と一緒だ。ならば薬と同じように、医師すなわちシステム提供者の側が、AIシステムがどのように機能して目的を達成してくれるのかを、患者であるユーザーに対してきちんと説明しなければならないだろう。企業内でAIの開発・運用に携わる人々には、「プラセボ効果があるから」といって楽観的に構えるのではなく、ユーザーと積極的なコミュニケーションを続ける努力が欠かせないのである。