監視企業Flock、高まる批判に対して『妥協』を呼びかけ

監視カメラの大手企業Flockが、同社の技術悪用に対する批判の高まりに直面している。ワシントンポストが報じた46件の事例では、警察官が私的な目的でFlockの技術を使い、妻や恋人の監視に悪用していた。民主党のバーニー・サンダース議員は「AI大量監視を止めよ。Flockを止めよ」とTwitterで投稿し、共和党議員も顔認証・生体認証・ナンバープレート認識を使った自動監視システムの購入禁止法案を提出している。この問題はテクノロジー業界に一つの本質的な問題を突きつけている。

Flockの対応は一見、前向きだ。データ保持期間を30日から7日に短縮し、データアクセス前にケースコードの入力を必須化した。だが、これらの制限は上書き可能であり、警察官が「Evidence Mode」という設定を使えば、より長期のデータ保持ができてしまう。つまり、技術的な制約ではなく、運用ルールレベルの対応に過ぎず、本質的な問題解決になっていない。

AIやサーベイランス技術の力に対して、テクノロジー企業は「規制ルールを作りましょう」と提案することが多いが、ここで見えるのはルール自体の脆さだ。ルールが厳しくなれば、それを迂回する設定や運用が生まれる。技術の力そのものが、濫用を容易にしているからである。中小企業が業務で監視技術や自動判定系のAIを導入する際には、この構造を思い出す必要がある。「ルールで守られている」という安心感は、技術の力の前では薄い。設計段階で「悪用されたらどうなるか」を徹底的に考える方が重要だ。