失敗許されぬAI開発戦略、Waabi・Shield AIらが語る

TechCrunch Disrupt 2026のパネルセッションで、Shield AI、Waabi、General Motorsの経営陣が「失敗が許されないAI」について登壇する予定だ。Shield AIはドローンの自動化プラットフォーム「Hivemind」を開発し、米空軍の協力戦闘機プログラムに選定された。Waabiは自動運転技術で、Uberとのパートナーシップにより25,000台以上のロボタクシー配備を発表している。General Motorsはロボティクス戦略を担当している。議論のテーマは、テストと検証、安全文化の構築、規制対応、信頼の獲得という、いずれも「退屈だが死活的」な課題ばかりだ。

ここに引っかかる。AIが物理世界に動く時代、もう「革新」や「効率化」の話ではない。ドローンが落ちたら誰かが死ぬ。タクシーが暴走したら人命が失われる。それぞれのセッションスピーカーは、そうした「失敗の代償」と向き合う立場にある。Waabiが「シミュレーションで完全検証してから実運用へ」という手順を踏むのは、理想的だからではなく、それ以外に責任を取りようがないからだ。Shield AIが軍事ドローンで採用されるには、その信頼の積み重ねが必須だった。つまり、AIの成熟とは「精度の向上」ではなく「失敗時の責任体系の構築」と同義なのだ。

中小企業の立場では、こうした話は岸辺の出来事に見えるかもしれない。だが、自動化機械やロボットを外部ベンダーから調達する製造業ならば、発注時に「このAIシステムが暴走したら」という責任分界を決める習慣を今のうちにつけておくべきだ。