世界的なネット法学者も渦中に。チャットGPTを停止させる「言ってはいけないあの人の名前」――。

チャットGPTに、特定の人物の名前について尋ねると、「回答を生成できません」というメッセージとともに停止してしまう現象が、相次いで指摘されている。

その中には、世界的に知られる米ハーバード大学のインターネット法の教授や、チャットGPTの誤回答で風評被害に遭った人物らの名前も含まれている。

専門的な質問でも、立て板に水で回答するチャットGPT。そのチャットGPTにも、「言ってはいけないあの人の名前」がある。

●「私の名前もそうだ」

ハーバード大学教授のジョナサン・ジットレイン氏は11月30日午後、Xにそんな投稿をした。

ジットレイン氏は同大学のインターネット法制研究の拠点「インターネットと社会のためのバークマン・クライン・センター」の共同創設者で所長、同大学法科大学院とケネディ行政大学院の教授を務める。『インターネットが死ぬ日　そして、それを避けるには』などの著書があり、インターネット法制の研究者として世界的に知られる。

ジットレイン氏の投稿は、米著名ベンチャーキャピタル「アンドリーセン・ホロウィッツ」のパートナー、ジャスティン・ムーア氏がまとめた、チャットGPTを巡る「騒動」についての、一連の投稿への返信だった。

ムーア氏が取り上げたのは、チャットGPTに特定の人物名を回答させようとすると、「回答を生成できません」というアラートが表示され、回答が停止してしまう現象だ。

ソーシャルニュースサイト「レディット」で話題になり、ムーア氏がその経緯を連続投稿でまとめた。その中に、ジットレイン氏の名前も含まれていた。

X上では、ジットレイン氏に名前が非表示になる理由を尋ねる質問が相次ぐ。

ただ、ジットレイン氏は「わからない！　ここしばらくそうだった」と答えるばかりだ。

ジットレイン氏は、名前の削除を求める「忘れられる権利」の申し立てをしたことがあるか、との質問にも「まったくない」と回答している。

ジットレイン氏は7月、米アトランティックに「AIエージェントを今すぐ制御する必要がある」と題した論考を寄稿。AIを使ったエージェントのリスクと、規制の必要性を主張していた。

その関連を指摘する声もある。

●発端は「デビッド・メイヤー」

騒動の発端は、「デビッド・メイヤー」という人物名について回答を指示すると、チャットGPTが停止する、という現象だった。

オープンAIは英ガーディアンの取材に対し、この現象がシステム障害だったとし、「当社のツールの1つが、この名前に誤ってフラグを立て、回答を非表示にしてしまった。非表示にすべきケースではなかった」と説明している。

騒動の当事者として、富豪ロスチャイルド家の相続人で環境活動家のデビッド・メイヤー・ド・ロスチャイルド氏が取り沙汰された。同氏はガーディアンに「名前の削除など依頼していない。チャットGPTと接触したことは一度もない。悲しいことに、すべては陰謀論に振り回されている」とコメントしている。

現時点（12/5朝）では、チャットGPT（4o）に「デビッド・メイヤー」について説明するよう指示すると、今回の騒動をまとめて、次のように回答。続けて、著名人の例としてロスチャイルド氏について説明する。

ただ、冒頭のハーバード大のジットレイン氏ら、「デビッド・メイヤー」以外にブロック対象として指摘された名前は、依然としてブロックされたままだ。つまり、「誤ってブロックされた」わけではない、ということになる。

●「幻覚」による風評被害

名前をブロックされたままの人物の1人が、オーストラリアを舞台にした国際贈収賄事件の内部告発者から自治体首長へと転身したブライアン・フッド氏だ。

フッド氏は、チャットGPTによる「幻覚」の風評被害を受けた。

2023年4月、チャットGPTが、この事件の内部告発者であるフッド氏について、「贈賄側企業の元幹部」として有罪判決を受けた人物、と事実に反する回答をしていたことが明らかになった。

※参照：「ChatGPTが私を犯罪者と呼んだ」内部告発者を呆然とさせ、提訴に向かわせたそのわけとは？（04/07/2023　新聞紙学的）

フッド氏の名前については、この騒動を受けて、ブロックの措置が取られていたようだ。フッド氏は当初、訴訟の構えを見せていたが、その後、「問題は解決した」として矛を収めている。

もう1人は、米ジョージ・ワシントン大学法科大学院教授で、保守派のコメンテーターとして知られるジョナサン・ターリー氏だ。

やはり2023年4月、チャットGPTがターリー氏について「女子学生に対するセクシャルハラスメントを行ったと、米ワシントン・ポストが報じた」との回答をしたことが表面化した。

ターリー氏は、オピニオン・コラムニストを務めるUSAトゥデイのコラムでこの騒動を取り上げ、引き合いに出されたワシントン・ポストも批判記事を掲載していた。

※参照：「フェイクの風評被害」「データ漏洩」チャットGPTに米政府が調査、その問題点とは？（07/14/2023　新聞紙学的）

ブロックされているもう1人は、「デビッド・フェイバー」。米CNBCのジャーナリストだと言われている。

●自分でブロックする

このほかにも、イタリア政府の個人データ保護機関（GPDP）の委員で弁護士、ジャーナリストのグイド・スコルツァ氏の名前もブロックされている。

ただ、スコルツァ氏の場合は、少し事情が違う。

今回の騒動を受け、スコルツァ氏は2024年12月3日、Xに約2分の動画を投稿した。

スコルツァ氏は動画の中で、「本人同意のない個人データ処理を停止させることができる権利を行使しただけだ」と説明している。欧州連合（EU）の個人データ保護法「一般データ保護規則（GDPR）」の規定を指す。

動画では、その申請方法についても、丁寧に解説している（※12/5朝の時点では、オープンAIの申請画面はシステム障害に見舞われているようだ）。

つまり、ブロックされたのではなく、自らの権利としてブロックさせたということだ。

●「名前を言ってはいけないあの人」

『ハリー・ポッター』では、「名前を言ってはいけないあの人」として、ヴォルデモート卿という闇の魔法使いが登場する。

チャットGPTにも、「幻覚」による風評被害や、プライバシー侵害などの対策として「名前を言ってはいけないあの人」のリストが実装されている。

ただ、そのリストが公開されているわけではないため、憶測も呼ぶ。

ジットレイン氏のように、ブロックされている理由に、本人も首をかしげるケースもある。

生成AIに対する社会の不安の1つに、その回答の理由が判然とせず、いわば「ブラックボックス」になっている点がある。

今回の騒動で「検閲」や「陰謀」が注目を集める背景には、そんな不安がある。

「名前を言ってはいけないあの人」の曖昧なリストによって、改めて不安が頭をもたげる。

（※2024年12月5日付「新聞紙学的」より加筆・修正のうえ転載）