一日中　AIに児童ポルノの見分け方を教える　　TikTok　業務請負人の過酷な任務｜忍者猫　ブログ

一日中　AIに児童ポルノの見分け方を教える　　TikTok　業務請負人の過酷な任務


この職種応募したい
給料は良さそうですね
俺だって嫌だけど

個人フォルダに保存してないか監視されてそう

AIに学習させるためのAIが必要


名字を明かせないNasserという名前の人物は
TikTokのコンテンツモデレーターの仕事に応募したときに、不穏な素材を目にすることになることを予測していたという。しかし、無修正の子供の性描写の映像を見せられたとき、彼はショックを受けた。

SNS大手のコンテンツのモデレート業務を請け負う
企業Teleperformanceで働いていた

Nasserは、人工知能（AI）が「最悪のコンテンツ」
を見分ける能力を鍛えるという特別なプロジェクトを任されていた。


入社してわずか数日後、彼と同僚たちは、性的行為に及ぶ
子どもたちの生々しい画像や動画
つまりTikTokから削除されたすべての素材を見せられたのだ。

2020年にTeleperformanceを退職したNasserはフォーブスの取材に

「私には娘がいるが、見ず知らずの人たちがこれを
見るのはおかしいと思う。

あんなものをトレーニングに使うべきではないと思う」

と話した



テキサス州エルパソにあるTeleperformanceの


TikTok部門で1年以上働き、2021年に退社した


ホイットニー・ターナーも、トレーニングの一環として
子供の性的搾取画像を見せられた。


彼女には共有スプレッドシートへのアクセス権が与えられており
そこには裸や虐待を受けている子供の画像など
TikTokのガイドラインに違反すると判断された素材が数百枚も含まれていた。


元モデレーターによると、Daily Required Readingを略して
「DRR」と呼ばれるこの文書は


今年の夏の時点ではTeleperformanceとTikTokの従業員が広く
アクセスできたという。


関係ない部署で働く一部のモデレーターはこの資料の閲覧を
制限されていたが、関係者はフォーブスに

両社で数百人がこの文書に自由にアクセスできたと語った。


DRRやその他のトレーニング資料は、TikTokの中国にある
親会社バイトダンス（ByteDance）が開発した
社内ワークプレイスソフトウェア「Lark」に保存されていた。


ホイットニーは、この資料の扱いに愕然とし
FBIに報告し、その後捜査官と面会した。


フォーブスは、FBIにこの問題を調査するかどうかに
ついてのコメントを複数回求めたが、回答はなかった。


TeleperformanceのTrust & Safetyグローバルプレジデント
のAkash Pugaliaは取材に対し


同社は児童虐待の露骨な内容の動画をトレーニングで
使用しておらず、「キャリブレーションツール」
にもそうした素材を保存していないと述べたが

そのツールが何か、何をするものかは明らかにしないと述べた。



トラウマにつながる過酷な業務

児童の性的虐待のコンテンツを追放しようと奮闘しているのは


TikTokだけではない。SNSの大手は、長い間
機械学習とサードパーティの人間のレビュアーを使って

そうしたコンテンツをキャッチして削除しており

多くの企業は行方不明になったり搾取されたりしている
児童を支援する団体の


「National Center for Missing & Exploited Children（NCMEC）」
と協力し、問題のある画像を法執行機関に通報している。


しかし、TikTokとその外部コンサルタントがこの素材を扱う方法は独特で


専門家によれば、よく言えば

手際が悪くて軽率で、悪く言えば有害でトラウマを再形成するものだという。


また、広くアクセス可能な文書に画像を保存することは、無謀で不必要なことです。



売上高1兆円のグローバル企業

Teleperformanceは、1970年代から続く世界的な顧客サービスの大手だ。


同社は昨年記録的な成長を遂げ、80億ドル（約1兆円）
以上の売上高を記録した同社は

ヘルスケア、ホスピタリティ、リテール、テレコムなど
ほぼすべてのセクターにまたがる約1000社の顧客を誇り

最近になってソーシャルメディアをそのポートフォリオに加えたばかりだ。