Getty Images

ドリュー・クレセンテが最後に娘のジェニファーと会話をしたのは、2006年2月14日のことだった。その翌日、高校3年生だったジェニファーは、当時の交際相手によって殺害された。その交際相手は、有罪判決を受けて刑務所で服役中だ。 クレセンテは、娘が亡くなった年に娘の名前を冠したNPO（非営利組織）を立ち上げて、10代のカップルのデート暴力の防止に取り組んでいる。また、彼は彼女の事件に関連するメディアの報道を定期的にチェックしている。 しかし、ある日の夜明け前のGoogleアラートの通知でクレセンテは、何者かが人工知能（AI）プラットフォームのCharacter AI（キャラクターAI）上に、娘の卒業アルバムの写真と名前を使ったチャットボットを作成したことを知って愕然とした。 「悲しむ父親が、死んだ娘がチャットボットとして金儲けに使われていることを知るほど辛いことはない。このような行為は絶対に許されない」と、クレセンテはフォーブスに語った。 彼は、キャラクターAIのサポートチームに連絡し、自動返信で「スタッフが苦情を確認中」という通知を受け取った。同社はその後、問題のチャットボットがポリシーに違反しているとして削除しており、広報担当者のキャシー・ローレンスによると「さらなる対応が必要かどうかを検討している」という。 2022年に設立されたキャラクターAIは、テイラー・スウィフトやニッキー・ミナージュ、イーロン・マスクなどのさまざまな著名人のチャットボットをホスティングしている。月間アクティブユーザーが約2000万人のこのプラットフォームは、主に13歳から25歳までの若者に利用され、これまでに約1億件のチャットボットが作成されている。 かつては最も注目されたAIスタートアップの一つだったキャラクターAIは、2023年3月に1億5000万ドル（約221億円）を調達し、評価額は10億ドル（約1479億円）に達していた。しかし、ウォール・ストリート・ジャーナル紙によると、同社の共同創設者でCEOのノーム・シャゼールを含む中心メンバー30名は、8月にグーグルに移籍しており、その事業はほぼ休眠状態だという。 キャラクターAIの暫定CEOのドミニク・ペレラは、英紙フィナンシャル・タイムズの取材に、AIモデルの開発を停止し、主力製品である消費者向けチャットボットに注力する方針を明らかにした。 一方、ジェニファー・クレセンテのチャットボットの説明には、「幅広いトピックについて情報を提供できる知識豊富でフレンドリーなAIキャラクター」と記されている。誰がこのチャットボットを作成したのかは不明だが、クレセンテはキャラクターAIのようなプラットフォームが、このような事例を監視し、防止する法的責任を負うべきだと考えている。 「彼らは、数億ドルもの資金を持っているのだから、彼らが責任を負うのは当然のことだ。しかし、これらの企業の多くは、悪用を防ぐための責任を自覚していないようだ」とクレセンテは述べている。