テキサス州知事、Flock AI監視カメラへの予算凍結

テキサス州知事が、Flock製AI監視カメラへの予算凍結を宣言した。州は3000万ドル以上をこのシステムに投じ、その財源は保険料への1ドル加算だった。つまり、カタリティックコンバーター盗難対策という名目で、市民から自動的に吸い上げた金である。ところが、プライバシー懸念、警官による不正使用、データ共有の不透明性が表面化し、民主・共和の両陣営から批判が出た。複数の都市がすでに契約を解除。政治家ですら「これは駄目」と気づいた結果が予算凍結だ。

AIの鬼が見るべき本質はここだ。「便利だから導入」という判断が、社会信頼の目線で見直される瞬間である。初期導入コストが安く、効果も見えやすい監視・追跡・管理系のAIほど、長期的には社会信頼コストが膨らむ。テキサスの事例は他人事ではない。日本の防犯カメラやドローン配送、あるいは企業の勤務管理AIなども同じ道をたどる可能性がある。「AIなら安全」「透明性がある」という説明では足りない。市民・従業員・取引先が「納得できるか」という別の次元での判断が必要になっている。

経営層が今やることは、AI導入の経営判断から「社会信頼リスク」の項目を外さないことだ。初期コスト・稼働率・精度の数字だけで決めてはいけない。5年後、「あのAI、やっぱり外そう」と言われるぐらいなら、今のうちに設計段階で信頼構造を見直しておけ。