news HACKとは
記事単位でコメント欄を自動的に非表示とする機能の導入について
いつもYahoo!ニュースをご利用いただきありがとうございます。
このたびコメント欄健全化の取り組みの強化について、プレスリリースにて発表いたしました。
Yahoo!ニュースは、インターネットの双方向性という特性を生かし、メディアによる情報発信だけでなく、ユーザーのみなさまが発信主体となることで新しい価値が生まれると信じています。
世の中には多様な意見や考えがあることを伝え、新たな気づきや視点を得てもらうことで、より良い社会の実現に向けた一人ひとりの行動につなげていきたい、という思いから、2007年よりコメント欄を提供しています。
そして、Yahoo!ニュースでは、コメント欄の提供に当たって、ユーザーのみなさまが安心して利用できることがなにより重要であると考えており、人権侵害や差別に当たりうる投稿は一切許容していません。健全な言論空間を創出するために、(1)Yahoo!ニュース コメントポリシーにおける禁止行為の明示、(2)ユーザーへの周知・啓発、(3)違反申告と専門チームによるパトロール、(4)深層学習を用いた自然言語処理モデル(AI)や機械学習を利用した対策など、さまざまな取り組みを行ってまいりました。
（参考）：これまでの取り組み
しかしながら、一部のコメント欄では、Yahoo!ニュースが目指している提供目的を実現できていないという課題がありました。
そこで、コメント欄における言論空間の健全化を目指すため、記事単位でコメント欄を自動的に非表示とする機能を導入することといたしました（プレスリリース）。ここでは、その内容とコメントの自動投稿削除に用いられているAIについて、以下の通りご説明をさせていただきます。
1. 機能の概要
今回開始したのは、一定以上コメント数がある記事のコメント欄を対象に、AIが判定した違反コメント数などの基準に従い、コメント欄を自動的に非表示とする機能です。Yahoo!ニュースでは、過度な批判や誹謗中傷、差別、わいせつや暴力的などの項目に該当する違反コメントをAIが検知して自動削除を行っていますが、このAIについて、ご説明します。（※1）
2. AIについて
(1) 活用するAI
今回、活用するAIは、最先端の自然言語処理モデルとスパコン「kukai」を活用したAI判定モデルで、「Yahoo!ニュース コメントポリシー」のうち、過度な批判や誹謗中傷、差別、わいせつや暴力的などの項目に該当している度合いを総合的に点数化して自動削除するものです。（※2）
なお、ヤフーの親会社であるZホールディングスでは、AI活用によりユーザーのみなさまに不利益を生じさせないよう、AIの倫理的側面からガバナンスルールの検討を開始しており、ヤフーとしても当該検討に加わっております。（※3）
(2)AIの生成プロセス
このAIでは、専門チームがパトロールを行った結果を正解データとして学習し、その判断を再現します。学習の際には、Yahoo! JAPANが持つ大規模テキストデータを言語理解力向上のためにあわせて活用しています。
性能とプロセスの検証を実施し、最新技術を取り入れて、継続的にモデルを改善しています。
(3)AI活用イメージ
投稿されたコメントをAIが点数化し、誤削除の可能性が極めて低いと考えられる基準値以上のコメントを自動削除します。
<おわりに>
本件施策については、今後、実施した非表示機能を検証して、適切に行われているか適宜確認をするとともに、有識者のご意見やユーザーのみなさまの声を伺いながら、施策の見直しや改善を積み重ねていく予定です。
また、個別の違反投稿の削除及び違反投稿者に対して、これまで以上に厳正な対処を行っていきます。加えて、投稿者に再考を促して誹謗中傷などの投稿を防止する取り組みの強化や、多様な意見を提示するAIの開発に取り組むなど、さまざまな施策を実行していく予定です。それにより、コメント欄で投稿される多様な考えや意見によって、ユーザーのみなさまがニュースに対する興味や多角的な視点を持つきっかけを提供していきます。
Yahoo!ニュースは、社外のパートナー企業や有識者などとも連携しながら、日本のインターネットにおける健全な言論空間を構築し、より良い社会の実現に向けて全力を尽くします。
※1 このAIは、個人に対する誹謗中傷などを内容とする投稿への対応をテーマとした「プラットフォームサービスの運営の在り方検討会」の提言書において、「不快モデル」として記載したものと同一です。
「プラットフォームサービスの運営の在り方検討会」提言書
※2 最先端の自然言語処理モデルとスパコン「kukai」を活用したコメント対策の強化について
※3 AI倫理に関する有識者会議（Zホールディングス）
※ニュースアプリについては、最新版まで、表示が一部異なる可能性があります。
お問い合わせ先
このブログに関するお問い合わせについてはこちらへお願いいたします。
