news HACKとは
Yahoo!ニュースの「コメント機能」 AIを活用した投稿時注意メッセージ掲出の効果について
いつもYahoo!ニュースをご利用いただきありがとうございます。
これまでYahoo!ニュースでは、人とAIによる不適切投稿の監視や、AIによるコメント表示順の改善など、コメント欄の場の健全化に取り組んできました。
これらに加え、2020年は不適切投稿の事前抑止に注力し、7月に以下の取り組みを開始しました。
これは不適切投稿のパトロールで活用しているAI判定モデルを用いて、不適切な可能性が高いと判定されたコメントを数日以内に複数回投稿しているユーザーに対し、注意メッセージを掲出するものです。
直近の投稿傾向から、不適切なコメントを投稿するおそれのあるユーザーを判断して注意メッセージを掲出することで、過去の投稿内容やこれから投稿するコメントに乱暴な言葉づかいや他の人を傷つける表現がないかなど、改めて考えるきっかけにしていただくことが目的です。
注意メッセージをきっかけに投稿内容を再検討していただけることが増えれば、注意メッセージが掲出されるアカウント数は減っていくはずだという仮説に基づき、取り組み開始直後の8月と4ヶ月後の12月で比較しました。
左のグラフは注意メッセージが掲出されたアカウント数、右のグラフはコメント全体の投稿ユーザー数の日次平均を表しています。
コメント投稿自体は増加したのに対して、注意メッセージが掲出されたアカウント数は13.5%減少しました。この結果から、今回の取り組みによって、不適切な投稿を繰り返しているアカウントの減少に効果が出ていると考えております。
Yahoo!ニュースでは今後もコメント欄の健全化のため、効果的な対策を実施できるよう取り組んでまいります。
<関連リンク>
Yahoo!ニュース コメントポリシー
Yahoo!ニュース コメントの健全化に向けた取り組み
Yahoo!ニュースにおけるAIを活用した投稿時注意メッセージの掲出効果について
お問い合わせ先
このブログに関するお問い合わせについてはこちらへお願いいたします。
