Yahoo!ニュース、不適切コメントを繰り返すアカウント13.5%減少…AI活用の注意メッセージの効果

「Yahoo!ニュース」が、2020年7月からAIを活用して取り組んでいる投稿時の注意メッセージ掲出の効果により、「Yahoo!ニュース コメント」(以下、コメント欄)に不適切なコメントを繰り返し投稿しているアカウントが、掲出直後と比較して13.5%減少したと発表しました。

「Yahoo!ニュース」は、ユーザーが安心・安全にサービスを利用できるよう、人権侵害や誹謗中傷、ヘイトスピーチ、不快な内容を含むコメントなどの禁止行為を従来よりYahoo!ニュースコメントポリシーに明示し、人を傷つける表現行為は許されないと断固とした姿勢を示しています。

また、コメント欄における健全な言論空間を創出するため、専門チームによる人的なパトロールや、自社開発の「深層学習を用いた自然言語処理モデル(AI)」を利用した誹謗中傷など不適切な投稿の削除など、さまざまな対策を行ってきました。

2020年7月、パトロールに活用しているAI判定モデルを用いて、「不適切である可能性が高い」と判定されたコメントを繰り返し投稿しているユーザーに対して注意メッセージを掲出する取り組みを開始。過去の投稿内容やこれから投稿するコメントに乱暴な言葉づかいや他の人を傷つける表現がないかなど、ユーザー自身が考えるよう促してきました。

不適切な投稿を繰り返しているユーザーに掲出される、投稿時の注意メッセージ

その結果、掲出直後の同年8月と比較して、4ヵ月後の同年12月には、コメントを投稿したユーザー数が増加したのに対し、注意メッセージが掲出されたアカウント数は13.5%減少。本取り組みに一定の効果が出ていることがうかがえました。

(左)注意メッセージが掲出されたアカウント数(2020年8月と12月の比較)
(右)コメント欄における投稿ユーザー総数の日次平均

「Yahoo!ニュース」は今後も、コメント欄で投稿される多様な考えや意見によって、ユーザーがニュースに対する興味や多角的な視点を持つきっかけを提供するとともに、健全な言論空間を構築するために努めていくとしています。

2,773ファンいいね
226フォロワーフォロー
2,432フォロワーフォロー

【10月12日更新】メディアのサブスクリプションを学ぶための記事まとめ

デジタルメディアの生き残りを賭けた戦略の中で世界的に注目を集めているサブスクリプション。月額の有料購読をしてもらい、会員IDを軸に読者との長期的な関係を構築。ウェブのコンテンツだけでなく、ポッドキャストやニュースレター、オンライン/オフラインのイベント事業などメディアの立体的なビジネスモデルをサブスクリプションを中核に組み立てていく流れもあります。

最新ニュース

関連記事