Instagramの生成AI判定が再び混乱

Instagramが生成AI画像に付けるラベル機能が再び混乱を起こしている。自分で編集していない普通の写真に「AI Content」というラベルが自動で付いている一方、実際にはAIで作られた画像には何もラベルが付かず見逃されている。去年2024年2月にも同じ問題が起きており、Metaは当時「修正する」と約束したはずなのに、今月も再発した形だ。

誤判定の主な原因は、CanvaなどのWeb画像編集ツールに搭載された「背景除去」といった補助的なAI機能だ。このような機能は生成AIとは異なり、Photoshopなどが10年以上前から使っている一般的な物体認識・削除ツールと同じもので、合成画像を作るものではない。にもかかわらず、ユーザーが背景の小さな傷一つ消しただけで画像全体が「AI作成」と判定されている。MetaはIPTC や C2PAというメタデータ規格をスキャンしているはずと発表しているが、具体的な判定ルールは公開されておらず、判定基準が曖昧なままだ。

AIの鬼視点では、この混乱の根っこは「ラベルそのものの定義が社会的に確立していない」ことにある。「AIで作られた」と「AIで加工された」は全く違う。だがMetaは、検出方法も判定基準も明かさないまま、前者と後者を分別できていない。その結果、ラベル自体が信用を失い、ユーザーはSNS全体への不信感を高めている。

中小企業がSNSで商品写真を投稿する際、いつ「AI作成」ラベルが付くか予測できない状態では、安心して使えない。判定基準と対策方法を明示する必要があり、現状では信頼度の低いプラットフォーム機能といえる。