AIによる自動検知システムに賛否両論！

1日に平均約2万件の不適切な投稿を削除している「Yahoo！ ニュース」。ヤフーは今年6月に、多数の悪質コメントを検知してきたAI技術を外部提供することを発表しました。

 

外部提供にあたって発生する法的・実務的課題は、今年6月に設置する検討会で議論をおこなう方針です。法律家や幅広い分野の有識者を交えて検討し、話し合いの結果は追って公表されるとのこと。

 

ヤフーの新たな取り組みには続々と反響が相次いでいるようで、「大手ヤフーの検閲システムを活用できるってかなり心強い！ これで心ない言葉が減れば嬉しい」「コメント欄って関連性の低い投稿も上がってくる印象。ヤフーのようなコメント表示順になれば、より有益な情報を得られると思う」といった声が上がっていました。

 

中には「AIが削除しなかったコメントがすべて『問題ない意見』と認識されるのはちょっと不安かな。『検閲に引っかからなかったから私は悪くない』という言い分が発生してしまう」「もしNGワードで検知しているなら、場合によってはまともな議論ができなくなる可能性が…」など、AI技術に対する不安をもらす人も見られます。