news HACKとは
最先端の自然言語処理モデルとスパコン「kukai」を活用したコメント対策の強化について
いつもYahoo!ニュースをご利用いただきありがとうございます。
Yahoo!ニュースでは、コメント機能において、スーパーコンピュータ（以下、スパコン）と最先端の自然言語処理モデルを活用した違反コメントへの対策を開始しました。
今回の対策は、2019年12月に開始した最先端の自然言語処理モデルとスパコン「kukai」を活用したコメント対策の対象を、暴力的、差別的、過度に品位に欠ける等のコメントに展開したものです。これにより、従来型の機械学習をもちいたこれまでの判定モデルと比較し、検知件数が約2.2倍に向上することが見込まれ、より健全な議論の場の提供を目指します。
Yahoo!ニュースでは、これまでも禁止ワードや従来型の判定モデルによるコメント自動検知に加え、ユーザーの皆さまからの違反報告や、閲覧数の多い記事、あるいは特定ジャンルの記事の巡回パトロールなど、優先度の高いものから人的パトロールを実施していました。今回、新たに導入した判定モデルは、最先端で強力な深層学習ベースのアーキテクチャである「DSSM-Transformer」を使用しており、これまで実装していた従来型の判定モデルと比べて違反コメントの検知数が飛躍的に向上しました。
Yahoo!ニュースは、コメント欄について、
- ニュースや世の中のできごとに関連する多様な意見や考え、感想があつまる場所であること
- コメント欄で他の人の意見や考えに触れることが、自分の考えを改めて整理したり、ニュースをより深く、多角的に理解したりするきっかけを作ること
が大切だと考えており、違反コメント対策に加えて、コメント表示順の改善にも力を入れています。
今回の判定モデルで判断されたスコアはコメント表示順の改善にも活用し、ニュースを多角的に理解するきっかけになるコメントなど、より多くの人に読んでほしいコメントが上位に表示されるよう活用していきます。
なお、Yahoo!ニュースでは、コメントポリシーにおいて、コメント欄のご利用ルールや、認められない投稿内容などについて定めています。コメントが違反かどうかの判定を行うことは容易ではありませんが、社会状況等に合わせてポリシーを見直しつつ、今後も人的パトロールの強化と、最先端の自然言語処理技術などを活用することで、皆さまに安心してご利用いただけるサービス提供を実現していきます。
お問い合わせ先
このブログに関するお問い合わせについてはこちらへお願いいたします。
