未来の感染爆発の予想も可能に!? 今後、AIが健康にもたらす影響
その一方で潜在的な問題も山積み
その1つは、年齢、人種、ジェンダー、セクシュアリティなどに関する偏見がAIに入り込まないようにすること。AIは自分で考えるのではなく過去のデータから学ぶため、「私たちの社会に深く根付いている偏見の多くがAIの中に生じる可能性はありますし、実際に生じるでしょう」と、米セントルイス大学医療倫理センターの助教授ヨロンダ・ウィルソン博士は警告する。 実際、過去の医師の記録には「一部の治療法は健康状態に関わらず高齢者に向いていない」「女性は自分の問題を大袈裟に話す」「黒人は白人ほど痛みを感じない」といった内容のものがあるので、ウィルソン博士の懸念には一理ある。また、今後医療サービスを頻繁に使うことが予想される患者をAIに特定させる研究では、黒人の患者にほとんどフラグが立たなかった。これはAIのアルゴリズムが過去の診察記録をもとに将来の必要性を予測したから。黒人が昔から医療格差に直面していて、診察を受けた回数が(他の人種よりも)少ない可能性は一切考慮されていない。現在のAIにはミスも多く、ChatGPTに薬剤に関する数十個の質問をした研究では、約4分の3の確率で間違った情報か不完全な情報が返ってきた。マドックス医師によると、コンピュータが細かいことにこだわりすぎて、健康上の問題がないことにまで警告を発してしまい、患者に不必要な不安を与える可能性もある。 もちろん、もっとも心配されるのはヘルスケア企業が人員を削減すること。「患者が医師よりAIと話したがるとは思えません」とスッチ医師。マドックス医師も「もともと医療というものは非常に人間味のある試みなので、人間味のないAIとしか関われないのは大きなデメリットになるでしょう」と懸念を示す。スッチ医師の話では、優秀になりすぎたコンピュータに医師が依存し、患者の転帰に大きな違いをもたらしかねない微妙なサインを見逃す危険性もある。 3人の専門家はみな、こうした問題が実際に起こらないことを願っている。でも、病院や開業医がコスト削減目的でAIを過剰に頼り、人間のプロを使わなくなるかどうかは、そのときになってみないと分からない。スッチ博士がとくに恐れているのは、AIによって医療格差が拡大すること。 「一部の人には医師を与えて、それ以外の人にはAIを与える病院が出てくるかもしれません」。スッチ博士によると、低所得で保険に入っていない人は機械対応に回されやすい。AIを使用する医療プロバイダの増加に伴い、電子化される医療データの量が増えれば、情報漏洩のリスクも高くなる。 もちろん、こうした問題を防ぐための門番はいて、患者のケアに使われるAI技術は必ず米国食品医薬品局(FDA)の承認を得る必要がある。2022年には米国連邦政府がAI権利章典の枠組みを発表し、米国医師会は倫理的で公平かつ透明性のある方法でAIを医療に用いるための原則を発表した。 AIの登場で現代の医療に大変革が起こるのは間違いない。多くの専門家はこの変化を前向きに捉えており、患者の転帰と体験に関して言えばデメリットよりメリットのほうが圧倒的に多いだろうと予測している。スッチ医師は、AI技術によって医師の必要性がなくなることはないけれど、「AIを使う医師が使わない医師に取って代わるのは確かでしょう」と語っている。 ※この記事は、アメリカ版『Prevention』から翻訳されました。