Meta、児童虐待画像へのリンク隠蔽広告検出ツール投入

Metaが発表した33.2百万件の児童性的搾取コンテンツ対応という数字は、プラットフォームが法的責任者として被る脅威の規模を示すと同時に、AIが「防御の最前線」として機能する現実をも示している。97%以上がシステム検出による早期発見というのは、人間の報告に頼るだけでは対応できない速度と規模で違法コンテンツが増殖している証拠だ。MetaがLLMを使った「signposting」検出システムを導入したことの意味は深い。見た目は無害な広告だが、外部の違法サイトへ誘導する悪質な手口——つまり、プラットフォーム内のルールをかいくぐろうとする犯罪者の工夫に対して、AIで対抗する軍拡競争が始まったということだ。

AIの鬼が注視するのは、Metaの「red-teaming AI agent」という新兵器だ。自社の安全対策の脆弱性を、AIが自分で探す。つまり、防衛者と攻撃者の両方をAIが演じることで、人間が気付かない穴を埋める。$18B規模の訴訟和解に追い込まれたMetaは、もはや事後対応では立ち行かない、予防検出の精度が生存戦略そのものになっている。この必死の投資は、プラットフォーム企業がいかに規制圧力と戦っているかの実例だ。

中小企業にとっての含意は意外と直近だ。自社がECサイトやSNS広告を出す側になったとき、プラットフォームのAI検査をくぐるために無意識に悪質な手法を採用する可能性は低くないし、逆に正当な広告が誤検出される事態も増える。Metaレベルの企業がここまで自動検出に投資する背景には、規制の厳格化と消費者信頼の喪失リスクがある。つまり、プラットフォーム広告の信頼性維持がビジネス競争力そのものになり、企業側も自社の広告リスクをAI監視する時代が来たのだ。