「Yahoo!ニュース」の違反コメント対策に深層学習判定モデルを導入検知数が約2.2倍に向上

ヤフーは、「Yahoo!ニュース コメント」で違反コメントへの対策をさらに強化した。新たに導入した「深層学習を用いた自然言語処理による判定モデル(AI)」によって、違反コメントの検知数が約2.2倍に向上した。

» 2020年03月10日 08時00分 公開
[@IT]

この記事は会員限定です。会員登録(無料)すると全てご覧いただけます。

 ヤフーは2020年3月6日、「Yahoo!ニュース コメント」で違反コメントへの対策を強化したと発表した。「深層学習を用いた自然言語処理による判定モデル(AI)」を、同社が独自に開発した深層学習特化型スーパーコンピュータ「kukai」で稼働させた。

 これまでもYahoo!ニュースは、ユーザーから違反報告があった記事や、閲覧数の多い記事、特定ジャンルの記事といった優先順位を付けて、人手や機械学習によってコメントのパトロールを24時間365日体制で実施していた。そして、違反があれば、違反コメントの削除や、悪質なユーザーのアカウント停止といった処置を、主に人手で行ってきた。

画像 ヤフーが導入した深層学習判定モデル(出典:ヤフー

深層学習特化型のスーパーコンピュータ「kukai」で判定モデルを実行

 今回の対策強化に当たって導入した判定モデルには、1100万件のコメントデータなどを学習させた。実際に1週間分のコメントデータを使って、今回導入した判定モデルと、従来の「機械学習を用いた自然言語処理による判定モデル(AI)」を比較したところ、違反コメントの検知数が約2.2倍に向上したという。

Copyright © ITmedia, Inc. All Rights Reserved.

RSSについて

アイティメディアIDについて

メールマガジン登録

@ITのメールマガジンは、 もちろん、すべて無料です。ぜひメールマガジンをご購読ください。