課題
統制の対象が、テキストから行為へ移りつつある
禁止は解決にならない
全面禁止は最も簡単な統制ですが、業務効率と競争力を同時に失います。現場は結局、私物端末や個人アカウントで使い始めます。統制は不可視化されるだけです。
可視化だけでは足りない
何が使われているかを見えるようにしても、次に必要なのは「では、どこまで許すのか」の判断です。判断基準が言語化されていなければ、可視化されたログは運用されず放置されます。
AIエージェントは自律的に行動する
従来のAIは情報を提示するだけでしたが、エージェントは自ら実行します。失敗が実害に直結するため、実行前の条件付けと、実行後の証跡が必要になります。
アプローチ
止めるのではなく、条件をつけて通す
企業が本当に必要としているのは、危険なものを止める機能そのものではありません。止めたあとに、どうすれば安全に再開できるかです。iOOzは、実行可否の二択ではなく、条件・範囲・期限を付けて実行を許す設計を軸に置いています。
- 01見つけるどのAI利用に権限管理が必要かを把握する
- 02判定する原則ルールに照らして、止めるか通すかを決める
- 03条件をつける範囲・期限・用途を限定したうえで実行を許可する
- 04記録する誰が、なぜ、どの条件で実行したかを証跡として残す
- 05見直す状況の変化に応じて、与えた権限を停止・失効させる
ビジョン
選択的自由と、自我的共生
AIが労働を代替したあと、人間に残るのは「よく生きる」ための活動です。そのとき必要になるのは、異なる価値観を持つ人々が、自分を曲げずに共存できる仕組みだと考えています。企業におけるAI統制は、その最初の実装です。
ビジョンを読む