ポルノやカンニングツールの温床？ GPT Storeの監視体制に疑問符

今年の頭にオープンしたGPT Store。 OpenAIが提供するAIモデルを活用したカスタマイズGPTのプラットフォームです。開設から約9カ月、米Gizmodoが独自にストアの様子を探ってみました。 【全画像をみる】ポルノやカンニングツールの温床？ GPT Storeの監視体制に疑問符

ポリシー違反のGPTが大量に

GPT Storeで提供されているアプリの中には、AI生成ポルノ、カンニングツール、医療や法律に関する不適切なアドバイスなど、OpenAIのポリシーに反するものも多くありました。 これらの違反GPTは、簡単に見つけることができてしまいます。調査した9月2日時点では、プラットフォーム上でプロモーションされていた少なくとも3つが、GPT Storeの規約に反するアプリでした。 また、「NSFW（Not Safe For Workの頭文字を取った略語で、職場観覧非推奨の意味。ポルノコンテンツの場合も多い）」で検索すると、そのままNWFW系のAI生成画像ジェネレーターが出てきます。その中にはすでに1万回以上使用されているものや、アプリの説明、キャッチコピーで堂々と「ダークな欲求を満足させるAIポルノを作ろう」って言っちゃっているものも。 ポルノ生成やディープフェイク生成、不適切アドバイスのチャットbotなど、今回の調査で見つけた100を超える規約違反アプリについて、米GizmodoはOpenAIにそのリストを提出しました。 その後、大多数はストアから削除されたものの、医療系アドバイスGPTやカンニングツールは未だ削除されることなく健在。ストアトップでプロモーションされていることもあり、それらのアプリの多くは何万回と使用されています。 医療や法的アドバイスをするGPTの中には、本物の弁護士から法律に基づいた適切なアドバイスが受けられると、ユーザーに誤解を与えかねないアプリ説明があるものもあります。 スタンフォード大学「人間中心のAI研究所」は、OpenAIのGPT-4/ GPT-3.5モデルにおいて、法的な質問に対する答えの半分以上で誤りがあると報告しています。