米Facebookは、プラットフォーム上の悪質で危険なコンテンツに取り組む方法として、人間による審査のほかに、人工知能(AI)システムの重要性を長い間アピールしてきた。しかし、同社の内部告発者で元社員のフランシス・ホーゲン氏が政府に提出した文書によると、米国、カナダ、ヨーロッパ以外の言語で、Facebookの自動審査に空白があったことがわかった。同社のプラットフォームには、他の言語での投稿を検出するための人工知能システムが欠けている。

 ロイター通信は10月、エチオピアで最も使われているアムハラ語の投稿に、異なる民族を敵と呼び、ヘイトスピーチがあることを発見した。しかし、Facebookの広報担当メイビス・ジョーンズ氏は、アムハラ語とビルマ語のヘイトスピーチを検出するためのアクティブな検出技術を持っており、「言語とトピックの専門家」を増員したと述べた。

 しかし、日付の入っていない文書(情報筋によると2021年のもの)の中で、Facebookの従業員は、インドのウェブサイトで広まっている「恐怖を煽る反イスラムの言論」を共有しており、その中に「現地の少数派のイスラム教徒を大量に国外追放するよう求める声」も含まれていた。また、同文書では「我々はヒンディー語とベンガル語の分類器を欠いている」と書かれている。

 過去5年間、アジア太平洋地域、中東、北アフリカにいる3人の元Facebook社員は、彼らがいる地域でのコンテンツ審査がFacebookの経営陣にとって優先事項ではないと考えており、十分な人員やリソースが投入されていないと、ロイターに語った。

(翻訳・徳永木里子)