news HACKとは
AIを軸に振り返る「Yahoo!ニュース コメント」健全化の取り組み〜ユーザーが安心して利用できる言論空間のために〜
2007年に誕生した「Yahoo!ニュース コメント」は、Yahoo!ニュースの成長とともに利用者が増加し、記事の下に設けられたコメント投稿欄で社会の問題や事象をめぐる議論が活発になされる場として定着してきました。記事を読んだユーザーがコメントを投稿したり、見たり、という基本構造は設置当初から変わりませんが、誹謗中傷など不適切な内容が含まれるコメントを検知・削除し、よりニュースへの気付きや理解につながるコメントを上位に表示されやすくするなどの機能改善を継続的に図ってきました。
安心して利用していただける言論空間の実現のため、Yahoo!ニュースがどのような方針のもと施策に取り組んできたのか、これまで導入してきたAIやその他機能をご紹介しながら、振り返ります。
記事のコメント欄なぜ提供？
Yahoo!ニュースは「課題解決と行動につながるニュースを伝える」をミッションに掲げています。
Yahoo!ニュースがコメント欄を設置しているのは、ユーザーが他者の意見や考えに触れることで、自分の考えを整理したり、ニュースをより多角的に理解したりするきっかけになる場を提供したいという思いからです。コメント欄は、前述のYahoo!ニュースのミッション実現に大きく寄与する機能だと考えています。
たとえば、複雑な社会問題などの記事を読んで、全体像を把握したり、自分の意見を持って行動したりすることは難しいこともありますが、そのときに、コメント欄で専門家や他の人の解説や考えに触れることで、理解が進んだり、自分ごと化しやすくなり、その結果行動に一歩近づくこともあります。ニュースを読んでから行動に移すまでにある「距離」を埋める役割をコメント欄が担っていると言えるでしょう。
コメント欄を健全に保つための取り組み
キーワードは「コメント」「人」「場」
コメント欄を「ユーザーが他者の意見や考えに触れることで、自分の考えを整理したり、ニュースをより多角的に理解したりするきっかけになる」場として機能させるためには、コメント欄という場を健全に保つことが必要です。そのため、Yahoo!ニュースでは、（1）コメントそのもの（2）投稿する人（3）多くの投稿が並ぶ場――の三つの要素に分類して、不適切投稿対策を考えています。
コメント欄ではここ数年、この三つのアプローチでそれぞれの施策を行ってきました。
■「コメント」への手当て
違反コメントへのパトロールを強化し削除等の措置を行う
■「人」への手当て
投稿時注意メッセージの掲出や、違反コメントを繰り返す一部のユーザーに対して投稿機能の制限をする
■「場」への手当て
コメントの表示順を工夫するなど、コメント欄自体を健全な議論が成り立つよう活性化させる。反対に、不適切投稿が集中するなどして健全な議論の場を提供しにくい場合にコメント欄ごと自動的に非表示とする
コメント欄の数多くの施策の中で、特に成果を出していると考えられるのが、社内外の専門家と連携したAIの利活用推進です。
具体的にどのようなAIが導入されてきたのかについて、ピラミッド図の階層下から順に、「コメント」「人」「場」と分けて見ていきます。
「コメント」
Yahoo!ニュースのコメント欄に最初にAIが導入された2014年時点では、機械学習により暴力的、差別的、過度に品位に欠けるなど違反コメントを自動で解析・検知していました。
その後、2020年にはYahoo! JAPANが独自に開発した深層学習特化型スーパーコンピュータ（以下、スパコン）「kukai」を活用し、性能を向上させた新たなAIである「不適切投稿判定モデル」の利用を開始。これにより、2014年導入のAIと比較して違反コメントの検知数が約2.2倍となりました。
不適切投稿判定モデルの利活用は多岐にわたります。コメントの自動削除や掲載順位の変更の他、後述の「人」や「場所」への対処にも活用しており、不適切コメント対策において非常に大きな役割を果たしています。
投稿されたコメントそのものに焦点を当てたAIとしては、2019年に導入した「関連度判定モデル」もあります。このAIにも、スパコン「kukai」が活用されています。Yahoo!ニュース コメントでは、記事と関連性のない投稿を禁じており、コメント欄の一つの特徴となっています。関連度判定モデルは記事とコメントの関連度を判定することができ、関連度が低いと判定されたコメントは自動削除、あるいは専門チームによる目視パトロールに回されることになり、従来と比べて関連性の低いコメントの検知が大幅に効率化されました。
「人」
次はコメント欄を利用される「人」にフォーカスした施策です。
Yahoo!ニュースでは2018年、不適切な投稿を繰り返すユーザーへの対策として、一定期間に不適切なコメントが複数にわたって投稿されたアカウント（Yahoo! JAPAN ID）については、それ以降の投稿ができなくなる「投稿停止措置」を開始しました。
2020年には不適切投稿の事前抑止を目的として、AIを活用した「投稿時注意メッセージ」の掲出を開始しました。この取り組みは、機能リリース以降も掲出タイミングやメッセージ内容のアップデートを重ねています。
ただ、上記の施策を取ってもなお、「投稿停止措置」を受けたユーザーが別のIDを取得して不適切な投稿を繰り返すという問題が残っていました。そのため、2022年、コメント欄への投稿にあたり携帯電話番号の設定を必須化しました。一般論として、電話番号を再取得することのハードルは高いため、不適切投稿への効果的な対策となっていると考えています。
「場」
三つ目が「場」としてのコメント欄に対する取り組みです。
Yahoo!ニュースでは、下記の要素に基づいてコメントの「建設度」をスコア化し、高いものをコメント欄の上位に表示させるAIを2018年から取り入れています。
・自分の意見を元に議論を喚起する発言
・客観的で、必要であれば根拠を提示している
・新たな考え方や解決策、見識を提供する
・記事に関係する珍しい経験談
このAIを「建設的コメント順位付けモデル」と呼んでいます。会社の垣根を越えてインターネット空間の健全化を目指す目的で、社外にもAPIを無償提供し、実際に複数の企業に導入いただいています。
ユーザーに多様な価値観に触れていただく、という趣旨で研究開発を始めたAI「コメント多様化モデル」も、2023年4月に導入しました。これは、一つの記事に対する一連の投稿を似た話題や切り口でグルーピングし、異なるグループのコメントを上位に差し込むことによって似た内容のコメントばかりが並ばないようにする、逆に言えば多様な意見と出合えるようにする機能です。
コメント欄には毎日たくさんのコメントを投稿いただいていますが、多岐にわたる視点・立場・切り口のコメントを、より見やすい状態で提供するという仕組みがありませんでした。多様な意見に触れることによってニュースへの理解を深めてもらいたい、という目的を実現するための直接的なアプローチが、この「コメント多様化モデル」です。
また、「場」の健全性を守るという機能としては、2021年に「コメント欄非表示機能」を導入しました。これは、一定以上の投稿数のある記事のコメント欄を対象に、不適切投稿判定モデルが判定した違反コメント数などの基準に従い、コメント欄を自動的に非表示とするものです。
コメント欄に導入した最新のAIである「コメント多様化モデル」の誕生までの過程や、AI導入の狙いなどについては改めて別の記事でお届けします。
Yahoo!ニュース コメントでは、今後も、ユーザーのみなさまに安心してご利用いただけるよう、反響を踏まえながら継続的に改善を重ね、多様な意見を投稿したり、読んだりできる言論空間を作っていきたいと考えています。
＜関連リンク＞
Yahoo!ニュース コメント 取り組みまとめ
お問い合わせ先
このブログに関するお問い合わせについてはこちらへお願いいたします。
