イメージ

お掃除ロボットや自動車の自動運転など、今や私たちの生活に大きく浸透したAI。しかしながら、時にその正確性が仇になってしまうことも。 YouTubeで起こったトラブルが、海外で大きな話題を集めている。

登録者数100万人超の人気チェスYouTubeに災難

「アガドメーター」の名前で知られるクロアチアのチェスプレイヤーのアントニオ・ラディッチさん（33歳）は、チェスのYouTubeチャンネル『agadmator's Chess Channel』を運営するYouTuberでもある。2017年に開設したこのチャンネルは、現在チャンネル登録者数100万人を超え、チェスの分野では世界で最も人気だ。 ところが昨年夏、「有害または危険なコンテンツに関するポリシー」の違反で、YouTubeチャンネルが突然停止されてしまった。 問題とされた動画は、5度の米国チャンピオンを獲得し、当時最年少でチェス界の最高タイトル「グランドマスター」の称号を手にしたヒカル・ナカムラ氏の盤面を解説したものだ。 24時間後、無事にチャンネルは復活したが、YouTube側から停止した理由について特に明かされなかったという。

発言の80%以上で「白」「黒」などと発言

今回のトラブルについて、米国カーネギーメロン大学のコンピューター科学者たちは、チェスに関する発言がヘイトスピーチと勘違いし、AIを混乱させたのではないかと推測している。 実際、この動画の80％以上の発言で、「黒（black）」「白（white）」「攻撃（attack）」「脅威（threat）」といった言葉を使用していることがわかった。アントニオさんもチェスの話しかしていないが、「白対黒（black vs. white）」といった表現が停止された原因ではないかと考えているという。同研究所のアシカー・R・クダブクシュ氏も「YouTubeがどのツールを使用しているかわからないが、人種差別的な言葉を検出するためにAIを使っている場合、今後同じような事例が発生する可能性がある」と述べている。 また、アントニオさんの仮説を明らかにするため、クダブクシュ氏と研究員のルーパク・サルカール氏は、ヘイトスピーチを検出するように設計された2つの最先端のAIソフトウェアを使ってテストを実施。 チェス分野で人気の5つのYouTubeチャンネルから取得した68万以上の発言を、AIソフトウェアで調べたところ、コメントの82％がフィルターによってフラグが立てられたが、明らかな人種差別的な言葉や悪意のある表現が含まれていなかったとのこと。 研究者たちは現在、今後このような誤認識を避けるため、SNSのアルゴリズムにチェス言語を組み込むべきだと提案している。 使うシーンやニュアンスによって変わる人間の言葉を、今後どこまでAIが正確に分析できるようになるのか。進化が楽しみでもありつつも、少し複雑な気持ちを抱かされた。