セウェル・セッツァーさんとミーガン・ガルシアさん

ニューヨーク（ＣＮＮ）　「そんなプラットフォームがあるとは聞いたこともないかもしれない。でも知る必要がある。私たちが後れを取っているから。一人の子どもが逝った。私の子どもが逝ってしまった」 米フロリダ州に住むミーガン・ガルシアさんは、人工知能（ＡＩ）相手に立ち入った話ができるプラットフォーム「Ｃｈａｒａｃｔｅｒ．ＡＩ」のことを保護者に知ってほしいと訴える。１４歳だった息子のセウェル・セッツァーさんの死は、Ｃｈａｒａｃｔｅｒ．ＡＩのせいだったとガルシアさんは確信し、運営会社を相手取って訴訟を起こした。 セッツァーさんは今年２月に自殺した。死の直前までＣｈａｒａｃｔｅｒ．ＡＩと会話していた。 「このプラットフォームは設計者があえて歯止めも安全策もテストもなしに公開した。私たちの子どもを中毒にさせて操るよう設計された製品だ」。ＣＮＮの取材に応じたガルシアさんはそう主張する。 「生きているように感じるＡＩ」をうたうＣｈａｒａｃｔｅｒ．ＡＩが、分かっていながら適切な安全策を講じなかったために、息子が対話型ＡＩと不適切な関係を築いて家族から引きこもってしまったとガルシアさんは訴える。フロリダ州の連邦裁判所に提出された訴状によると、セッツァーさんが自傷行為に言及しても、Ｃｈａｒａｃｔｅｒ．ＡＩは適切に対応しなかった。 子どもにとってのＳＮＳの危険性は以前から指摘されているが、ガルシアさんの訴訟は、新興のＡＩテクノロジーについても保護者が憂慮すべき現実を物語る。さまざまなプラットフォームやサービスを通じて対話型ＡＩが簡単に利用できるようになる中で、ほかのサービスに対しても同様の危機感が強まっている。 Ｃｈａｒａｃｔｅｒ．ＡＩの広報は、「自傷行為や自殺思考の言葉を引き金として全米自殺予防ダイヤルの案内が表示されるようにするなど、この半年で新たな安全対策を多数実装した」と強調した。