AIに仕事を奪われる不安から始めるハーネス作成入門 第16回 Slack承認を想定したハーネス処理フローを描く

AIエージェントに作業を任せる際、人間の確認をどう挟むかを扱う技術連載の第16回です。この連載は、AIを安全に動かすための制御の仕組み「ハーネス」の作成を段階的に解説しており、今回はSlackを承認チャネルに使う処理フローを図で描き、実装のイメージをつかめる形にしています。

紹介されているフローは大きく5つのフェーズに分かれます。最初はタスクの受付です。ここでは、許可されたアクションかどうかをホワイトリストで確認し、機密情報が含まれていれば入口の段階で拒否します。

次がリスク判定です。影響範囲・コスト・セキュリティ・可逆性の4軸を使い、外部への書き込み、コスト閾値の超過、個人情報の取り扱い、不可逆な操作といった要素ごとに点数を加算します。合計スコアに応じて、高リスクなら承認必須、中リスクなら通知のみ、低リスクなら自動実行と、対応を三段階に振り分ける設計です。

高リスクと判定されたタスクについては、Slackにメッセージを送ります。タスクの概要、リスクレベル、IDを提示したうえで、承認と却下のボタンを付け、担当者がその場で判断できるようにします。さらに、承認待ちにはタイムアウトを設けることが重要だとし、応答がない場合は「安全側に倒す」、つまりデフォルトで拒否する方針を基本としています。

記事では、個人開発や小規模チームでSlackを選ぶ理由は明確だとしつつ、他のチャネルでも同じパターンを適用できる、汎用的な考え方であることも補足されています。

中小企業の実務にとってのポイントは、AIに仕事を任せる際の選択肢が「すべて人が確認する」か「すべてAI任せにする」かの二択ではない、と具体的に示されたことです。リスクの高い操作だけを普段使いのチャットツールに流して人が判断し、低リスクは自動で流すという中間の設計が、比較的シンプルな仕組みで実現できるため、AI活用の承認ルールを作る際の出発点として参考になります。