「Yahoo!ニュース」が、2020年7月からAIを活用して取り組んでいる投稿時の注意メッセージ掲出の効果により、「Yahoo!ニュース コメント」（以下、コメント欄）に不適切なコメントを繰り返し投稿しているアカウントが、掲出直後と比較して13.5％減少したと発表しました。
「Yahoo!ニュース」は、ユーザーが安心・安全にサービスを利用できるよう、人権侵害や誹謗中傷、ヘイトスピーチ、不快な内容を含むコメントなどの禁止行為を従来よりYahoo!ニュースコメントポリシーに明示し、人を傷つける表現行為は許されないと断固とした姿勢を示しています。
また、コメント欄における健全な言論空間を創出するため、専門チームによる人的なパトロールや、自社開発の「深層学習を用いた自然言語処理モデル（AI）」を利用した誹謗中傷など不適切な投稿の削除など、さまざまな対策を行ってきました。
2020年7月、パトロールに活用しているAI判定モデルを用いて、「不適切である可能性が高い」と判定されたコメントを繰り返し投稿しているユーザーに対して注意メッセージを掲出する取り組みを開始。過去の投稿内容やこれから投稿するコメントに乱暴な言葉づかいや他の人を傷つける表現がないかなど、ユーザー自身が考えるよう促してきました。
その結果、掲出直後の同年8月と比較して、4ヵ月後の同年12月には、コメントを投稿したユーザー数が増加したのに対し、注意メッセージが掲出されたアカウント数は13.5％減少。本取り組みに一定の効果が出ていることがうかがえました。
（右）コメント欄における投稿ユーザー総数の日次平均
「Yahoo!ニュース」は今後も、コメント欄で投稿される多様な考えや意見によって、ユーザーがニュースに対する興味や多角的な視点を持つきっかけを提供するとともに、健全な言論空間を構築するために努めていくとしています。
