SNSは多くの人と交流できるツールですが、反対に誹謗中傷を受けやすいデメリットも。ヤフー株式会社は“不適切な投稿”を減らすため、独自のAI技術を外部提供する方針を発表しました。
AIがネットの誹謗中傷コメントをなくす
ヤフー株式会社といえば、日本最大級のインターネットニュース配信サービス「Yahoo！ ニュース」を運営中。意見を投稿できるニュースサイトとして有名ですが、一方で誹謗中傷などの違反コメントも少なくありません。
今年3月に発表されたヤフーの公式リリースによれば、“違反コメント対策”として深層学習を用いた「自然言語処理モデル（AI）」とディープラーニング特化型スパコン「kukai」を導入。
AI技術や「kukai」を利用するまでは人力や機械学習を用いてパトロールしていましたが、導入後は違反コメントの検知数がアップしたそう。ちなみに「Yahoo！ ニュース」に投稿された1100万件のコメントデータを独自の技術でサーチした結果、以前よりも検知数が約2.2倍も向上しています。
また「自然言語処理モデル」は“コメントの表示順”の改善にも役立つ効果が。ニュースを多角的に理解するきっかけになる投稿や、多くの人に読んでほしいコメントを上位に表示してくれるようです。
