偶然出会った彼女はAI、電話に出た警察官はディープフェイク──急速に巧妙化するAI詐欺

ChatGPT、Claude、Geminiといった生成AIが数分でアプリケーションを構築する時代になると、詐欺の手口も急速に進化する。Anthropicが公表したレポートから、最新のAI詐欺の実態が明かされた。

一例目は、完全にAIで運営されたマッチングアプリ詐欺だ。運営元はAIで4700以上のペルソナを生成し、スワイプ画面に表示される候補の75%をこのAIが占めた。ユーザーが「あり」をスワイプしてマッチングすると、会話はClaudeが自動で担当。詐欺グループの指示は「絶対に自動化を明かすな」「ビデオ通話や写真要求はかわす」「決められた会話ステップを進め」というもので、AIはこれに従いながら段階的にコイン購入を促した。人間の従業員の仕事は「AIが提示した3つのメッセージから1つを選ぶ」だけ。昔の詐欺が「詐欺師の人力」に依存していたのに対し、ここでは「AIが何千人分の偽人格を同時に演じる」という劇的な変化だ。

二例目は、音声変換詐欺で、台湾の詐欺グループ57人が起訴された。女性22人の声をAIに学習させ、男性詐欺師の声を女性音声にリアルタイムで変換。2022年から稼働し、2万人超から44億円を騙し取った。ディープフェイク生成ソフトを搭載するPC67台が押収されている。つまり、詐欺の「人件費」がほぼゼロに近づき、計算コストに置き換わった。結果、詐欺は「規模の経済」が急速に成立し始めたのだ。企業にとっても社員や家族への詐欺リテラシー教育が急務であり、同時に音声紋認証や生体認証といった本人確認技術の導入圧力が高まる。人間関係構築の場で「相手が本当に人間か」を見分けるスキルも必須になった。