Google、“毒コメント”にリアルタイムで対処する機械学習API「Perspective」公開

　米GoogleとAlphabet傘下のシンクタンクJigsawは2月23日（現地時間）、メディアなどのパブリッシャーがサービス上の不適切なコメントにリアルタイムで対処できるようにする機械学習採用のAPI「Perspective」を公開した。

　Perspectiveは、よりよい会話をホストしやすくするためのAPI。Googleのオープンソースの機械学習ライブラリ「TensorFlow」と、ディープラーニング技術を提供する「Cloud Machine Learning Platform」で開発した。

　このAPIは機械学習モデルを使って、コメントが会話に与えそうな影響を評価・採点する。開発者やパブリッシャーはこの点数を、コメントした人へのリアルタイムのフィードバックや、モデレーターへの通知、読者が関連情報を簡単に見つけるための支援などに使える。まずは"毒性のある"（toxic）コメントを検出する機械学習モデルをリリースし、年内に他の傾向のコメントのためのモデルも公開していく計画。Googleの定義では、毒性のあるコメントとは、読んだ人が会話から離れてしまうような無礼で理性的でないコメントのことだ。

　評価基準は、対象のコメントに似た過去のコメントへの評価。Perspectiveは人間のレビュアーが評価した数十万ものコメントを学習しており、評価が増えるにつれ採点も正確になっていく。

　パブリッシャーはPerspectiveを使って、例えば問題のあるコメントを人間のモデレーターに通知したり、コメントを入力した人に対して、そのコメントがコミュニティに与えるかもしれない影響について警告する機能や、読者が毒性コメントを非表示にできる機能をサービスに追加したりできる。…