allow / deny の二択では、業務が止まる

アクセス制御の議論では、判断を allow か deny の二値で表現するのが一般的です。ネットワークやファイル権限であれば、この抽象化はうまく機能してきました。

AIの実行に対しては、同じ枠組みが窮屈になります。

二値だと、安全側が常に「止める」になる

判断の選択肢が二つしかない場合、迷ったときの安全側の選択は必ず deny です。そして統制の担当者は、迷う場面が多いほど deny を選びます。

この積み重ねが「AIは原則禁止」という状態を作ります。個々の判断はどれも合理的なのに、総体としては業務が止まる。二値の設計が、担当者を保守的な側へ構造的に押し出しているためです。

間に置くべき応答

必要なのは、deny と allow の間にある選択肢です。実務上、少なくとも次のような型が要ります。

伏せたうえで通す。 機密に該当する部分だけを除去して実行させる。入力全体を止める必要はない。

根拠を求めたうえで通す。 実行そのものは認めるが、追加の情報や承認者の確認を条件にする。

範囲を狭めて通す。 対象データや実行回数を限定したうえで許可する。

期限を切って通す。 恒久的な許可ではなく、一定期間だけ有効にする。

これらはいずれも「安全側に倒しながら業務を続ける」ための選択肢です。二値の設計では表現できません。

型は最初から持っておく

実際の運用では、初期段階で使うのは数種類にとどまるでしょう。それでも、応答の型自体は最初から拡張可能な形で定義しておく必要があります。

二値で作ったものを後から多値に広げるのは、判定ロジックだけでなく、記録の構造と監査の前提まで作り直すことを意味するからです。