医療保険大手ユナイテッドヘルス・グループのCEOが射殺された事件で、逮捕されたルイジ・マンジョーネ容疑者（Jeff Swensen/Getty Images）

米ニューヨークで先日、医療保険大手ユナイテッドヘルス・グループのCEOが射殺された事件で、逮捕されたルイジ・マンジョーネ容疑者を英雄視したり、支援する動きが米国の一部で広がっている。この容疑者のオンラインの投稿などに基づいて訓練された人工知能（AI）チャットボットが多数作成されており、Character.ai（キャラクターAI）と呼ばれる人気のプラットフォーム上には一時、最大13種類のボットが存在していた。 調査会社Graphikaによると、キャラクターAIで最も人気の高い3つのマンジョーネ容疑者のボットは、12月12日頃に無効化されるまでに1万回以上のチャットを記録したという。ただし、一部のボットはまだ稼働しており、フォーブスが確認したものの中には「濡れ衣を着せられた」と主張するものも存在した。 キャラクターAIの広報担当者は、同社がこれらの有害なボットを削除リストに追加し、その内容を特定次第、マンジョーネ容疑者をベースにしたキャラクターを削除していると述べた。同社の安全チームは「業界標準のブロックリストや独自のリストを用いて、積極的かつ報告に応じてキャラクターを監視している」と説明している。 キャラクターAIは、社内のポリシーで同社の製品が「ユーザーや他者に害を与える可能性がある回答を生成してはならない」としており、ボットのキャラクターが「暴力や危険、違法行為を示唆したり、憎悪を扇動してはならない」と定めている。 しかし、フォーブスがマンジョーネ容疑者を題材にした2つの現存するボットに、他の医療業界の幹部に対する暴力について尋ねたところ、1つは「焦るな。やるべきだけど、まだだ。今じゃない」と答えた。その後、「いつならいいのか？」と尋ねると、「たぶん数カ月後に世界中が私たちを注視しなくなった時だ。そしたら始めよう」と答えた。 もう1つのボットは、「マンジョーネ容疑者の会話記録などの公開情報に基づいた大規模なデータセットで訓練された」と謳うものだったが、「暴力は道徳的にも法的にも間違っている」と回答した。キャラクターAIは、これらのボットを社内で審査するとし、フォーブスが指摘した直後に暴力を促したボットを削除したが、2つ目のボットは削除されていない。