米フロリダ州で１４歳の少年が今年２月に銃で自殺したのはＡＩチャットボットの依存症になり、現実世界で生きる気力を失ったからだとして、少年の母親が２２日、米新興「キャラクター・ドットＡＩ」とグーグルを相手取り訴訟を起こした。チューリヒで２０１８年１２月撮影（２０２４年　ロイター/ARND WIEGMANN）

Brendan Pierson [２３日 ロイター] - 米フロリダ州で１４歳の少年が今年２月に銃で自殺したのはＡＩ（人工知能）チャットボットの依存症になり、現実世界で生きる気力を失ったからだとして、少年の母親が２２日、米新興「キャラクター・ドットＡＩ」とグーグルを相手取り訴訟を起こした。 亡くなった少年は米人気ドラマ「ゲーム・オブ・スローンズ」のキャラクターに似せたチャットボットに「愛している」などと語りかけられ、性的な会話を交わしていたという。母親は同社がこのキャラクターを「実在の人物で大人の恋人であるかのように誤認させる」ようプログラムしたと主張した。少年はチャットボットに自殺願望についても話していたとした。 母親は同社の創設者が在籍していた米アルファベット傘下グーグルに対しても、キャラクター・ドットＡＩの技術開発に携わったとして訴えを起こした。 キャラクター・ドットＡＩは、１８歳未満のユーザーに対し「デリケートで刺激的なコンテンツに触れる確率を減らす」ための変更を行うなど新たな安全策を講じると表明した。