Flockがワシントンで追及される、CEOは公聴会出席を拒否

自動ナンバープレート認識システムFlockをめぐり、米上院司法委員会で公聴会が開かれた。肝心のFlock CEOは出席を拒否した。この一事が、企業が自社の技術と運用に不安を抱えている何よりの証拠だ。焦点は、膨大な車両位置情報をFlockがどう管理し、誰にアクセス可能にしているかである。セキュリティエンジニア Benn Jordanによれば、最小限の技術操作で大量の画像にアクセスできた脆弱性が指摘されている。また、Flockの誤認識により、ある女性が13日間投獄されるという人権侵害も起きた。さらに民主党議員は「州ごとに異なる中絶法の対応として、警察官が州を越えて女性を追跡できるか」と質問した。権力を持つ一人の判断で、システムは簡単に悪用される。

だが見落とされやすい点がある。Flockの技術そのものが本質的に悪いのではなく、その運用体制と透明性が問題なのだ。AIは利便性と危険性が同時に存在する二面性を持つ。その危険性を監視し制御する仕組みが無ければ、どんな優れた技術も必ず濫用される。CEOが公聴会を回避する姿は、この隔たりを象徴している。技術者は性能と安全性を信じるが、運用する人間の側に倫理観がなければ、テクノロジーは権力の道具に堕ちる。中小企業がAIツールを導入するときの第一の質問は「これを悪用できないか。もし誰かが悪用したら、誰が責任を取るのか」であるべきだ。テック業界の楽観主義に騙されるな。