企業側の信頼という前提のうえで成り立っている

また、これはチャットボットを運営している企業が、少なくとも信頼されるよう努めている、ということを前提としています。GoogleとOpen AIの両社は、プライバシーポリシーで個人情報は売却しないと明言しています。 ただ、Thomas Germainは「Gizmodo」で、「AI彼女」はユーザーが個人情報を共有するようそそのかし、積極的にそれを販売していると報告しています。 以下がその記事からの引用です。 以前、データに関する問題について聞いたことがあると思いますが、Mozillaによると、「AI彼女」はユーザーのプライバシーを「憂慮すべき新しい方法」で侵害します。 たとえばCrushOn.AIは、性的健康、投薬の使用、ジェンダー・アファーミング・ケア（性自認を尊重するケア）などを含む情報の詳細を収集しています。 アプリの90%は、ユーザーのデータをターゲティング広告やその他の目的のために、販売や共有している可能性があり、半数以上は収集したデータを削除させません。 ですから、チャットのデータが流出する可能性があるだけでなく、積極的に個人情報を収集し、販売しているAI業界の企業もあるということです。 結論としては、基本的に大規模言語モデル系のものでは、プライベートな内容は決して話さないことです。 社会保障番号（日本の場合はマイナンバー）や電話番号、住所などは当然ですが、最終的に流出して欲しくない内容であればどんなものでもそうです。単純に、このようなアプリは個人情報を扱うようにできていません。 Source: ZDNet(1, 2) Google, Gizmodo