AIは説明責任を果たせるのか ＝ コラム ＝

AIの説明責任の話は、多くの場合「ブラックボックスを開けろ、重みを出せ、学習データを出せ」という開示要求に帰結する。しかし、ある研究者が実験的に示したのは、別の観点だ。五つの操作と整数・剰余だけで構成した、ひたすらシンプルな装置がある。規則は全て公開され、コードも出ている。隠しているものは一つもない。それでも、この装置が回したときどこにたどり着くのかは、紙の上では追えないという。同じ規則を同じ図形で回しても、別の図形で回すと、返ってくるまでの歩数が桁で違う。つまり、開けても分からない。これはブラックボックスの問題ではなく、複雑性そのものの問題だ。

AIが「隠しているから」人間が追跡できないのではなく、単純な規則でも繰り返し回数が増えると人間の計算能力を超えるからだ。開示が必要条件でないとは言わないが、十分条件ではない。では、何が要るか。この研究者の提案は二つだ。第一に帰属を分ける。記録の一行ごとに「誰が定義したのか、計算が返したのか、見立てなのか、外部知識か」を明示する。第二に先に基準を書く。何が出たら何が言えるか、何が出たら言えないか、NGが返る形になっているか。これらは経路を全て追わずとも、責任の所在を残す仕掛けだ。

この視点で言えば、AIの危険はむしろ「社会がこの二つを用意していない」という点にある。テレビやスマートフォンは、内部を理解していない人が安心して使える。理由は「理解の側」にあるのではなく、製造メーカーが検定機構を備えているからだ。型式試験があり、出荷検査がある。同じ仕掛けがAIに備わっていない。だから問うべきは「AIを理解できるか」ではなく「AIに対して検定が書けるか」だ。中小企業がAIを導入する時も、ベンダーに「中身を説明してくれ」と求めるのではなく「NG条件を設定してくれ」「精度の保証数値は何か」と求める側に判断を移す。AIは説明ではなく、検定で責任を持つべき時代が来ている。