カンボジアの詐欺作戦を摘発、ChatGPT悪用

OpenAIは、ChatGPTを悪用していたカンボジア発の詐欺組織の活動を破壊した。その組織は投資詐欺、恋愛詐欺、ギャンブル詐欺、成りすまし詐欺といった複数の詐欺スキームを展開しており、ChatGPTを使ってメッセージの自動生成や不正アクセスのためのスクリプト作成などを行っていた。

ここで看過しやすいのは「Disruptされた」という一言の背後にある対抗戦の激化だ。AIの登場は、詐欺師にとってゲームチェンジャーだった。人手不足だった詐欺ビジネスが、言語生成と自動化で爆発的に拡大したからだ。投資詐欺のメッセージを数万人に一気に送ることが可能になり、恋愛詐欺の人格になりすまし会話を続けることが容易になった。それに対してOpenAIも黙っていない。AIの悪用検出と対抗技術を磨いている。この記事の本質は「AIが詐欺に使われている」という単純な警告ではなく、「AIプロバイダーと詐欺師の軍拡競争が始まった」という現実だ。

取引先からの「金銭要求メール」や「緊急案件のお願い」が増えているなら、それはAIが詐欺の道具として普及したサインだ。社内教育で「メール1本で判断するな、電話で声を聞く」という習慣をつけておく。詐欺師がAIを使う時代は、防御側も基本を徹底する以外に選択肢がない。