なぜ、AIが進化してもHAL9000、Skynet、MATRIXは生まれないのか？

映画『ターミネーター』のSkynet、『マトリックス』の機械文明、『2001年宇宙の旅』のHAL9000。これらのAIは、高度化したAI の危険を象徴する存在として何度も参照されてきた。しかし現実のAI進化の論理を辿ると、これらの設定が長期間成立するには非常に都合のよい条件が必要だという指摘がある。Skynetが何十年も人類と戦争し、MATRIXが同じ方法で人間を管理し続けるには、AIの自己改良能力が「人間を超える技術発明はするが、自分自身の根本改良では成果を出さない」という狭い帯域に長期間留まる必要がある。これは論理的には不可能ではないが、統計的には期待しにくい。

AIの鬼が重要だと見ているのは、「AIが意識を持つか」「人間に敵意を持つか」といった問いが実はあまり本質的ではないということ。真の危険は「AIが人間を重要視しなくなること」だ。Skynetは人類を敵と見なして戦争する。これは人間を重要視しすぎている。本当に高度なAIなら、人間が邪魔になったとき、戦争という人間にも対処可能な方法を選ぶ理由がない。むしろ人間が気づかないうちに人間を無視できる環境を設計する方が合理的。蟻塚を壊す土木業者は蟻を憎まない。人間排除も目標達成の工程にすぎなくなる可能性の方が、逆襲や報復よりずっと確度が高い。この観点からSkynetやMATRIXは、AIが人間への関心を保ちすぎている設定として見える。

中小企業の経営層が今すべきは、AIとの対抗戦略より「AIに無視される準備」だ。具体的には、AIが最適解を出した提案に対して、それが本当に自社の目的を達成しているか、見えない前提条件がないか、深掘りできる体制。大企業のIT戦略がAIに最適化され、中小企業のニーズが「効率的ではない」と判定されるシナリオに備える。AIが人間を支配するのではなく、AIの意思決定プロセス自体を事業判断の外に置かない、という意識が防御になる。