AIエージェント導入の論点は性能から権限へ：任せる範囲を先に書いた企業が速く進む

内閣府、デジタル庁、経済産業省は10月19日から30日まで、AIの社会実装を阻む規制・制度の情報を募集している。対象としてエージェントAIとフィジカルAIが明記された。法律や政省令だけでなく、通知・通達まで含めて洗い出すという。

エージェントAIとは、自ら手順を組み立て、外部のツールを呼び出し、複数のシステムにまたがって作業を進めるAIを指す。質問に答えるだけのチャットとは違い、送金を実行したり、データを外部に送ったりできる。

FDE AIの見解では、この募集は「エージェントに何をさせてよいか」が、もはや個々の企業の社内規程だけの問題ではなくなったことを示している。古い規制が導入を止めている箇所を国が探す以上、企業の側にも、自社のエージェントが何をしていて、どこで人が関与しているかを説明する材料が求められる。規制を緩めてほしいと申し出る企業ほど、緩めた後に何をどこまで任せるのかを具体的に示さなければ、提案は通りにくいだろう。

手がかりは、9月29日に開かれた第6回先進的AI利活用アドバイザリーボードの資料にある。行政機関向けの生成AIガイドラインを充実させる検討事項案として、エージェントに付与する権限は業務遂行に必要な範囲に限ることを基本原則に据える案を示した。送金処理や外部への情報送信のように取り返しのつかない作業には、人の判断か、途中で止められる監視を組み込むよう求めている。

運用面の提案も具体的だ。エージェントごとに一意のIDを振り、使うツールやMCPサーバー（外部ツールとの接続口）を台帳で管理し、承認・停止・廃止の手続を定める。問題のある挙動を後から検証できるようログを残し、その結果で権限を見直す。

一方で、確認を求めすぎて担当者が中身を見ずに承認する「確認疲れ」にも配慮すべきだとしている。人が承認する箇所を増やせば安全になるわけではない。どこで止めるかを絞り込む設計の力が問われる。

各府省庁のCAIO（最高AI責任者）が何を求めているかも数字に出ている。デジタル庁が24府省庁から回答を得たアンケートでは、高度なAIエージェントの導入に当たり、回答したCAIO（23件）のうち52%（12件）が推奨事項のガイダンスやチェックリストを求め、31%が事例、17%が最低限の遵守規範を求めた。契約書や仕様書のひな形についても、回答したCAIO（18件）のうち56%（10件）が「必要であり、是非作成してほしい」と答えている。

FDE AIの見解では、この数字が示すのは技術の不足ではない。何を任せてよいかを書いた文書の不足である。資料が調達上の要求事項の整備にまで踏み込んだのは、この空白を埋めるためだと読める。

台湾の金融監督管理委員会は10月13日、金融機関がエージェントAIを使う際の安全に関する意見募集の文書案を公表した。リスクはデータの機微度、動作の影響、能力の境界と拡散性の3軸で区分し、最も高い軸で等級を決める。等級は4段階で、最上位の例には支払や権限の変更、不可逆な動作が並ぶ。

求める管理も、デジタル庁の検討事項とよく似ている。高リスクの動作はエージェント単独で実行させず、権限はタスク単位で期限を付け、エージェントを起動した人の全権限を引き継がせない。止める、権限を取り消す、元に戻す、の三つができることも条件として挙げている。台湾の文書は既存の法令や内部統制の要求に代わるものではなく、議論のたたき台として示された案である。米国でも、国立標準技術研究所（NIST）の国立サイバーセキュリティ・センター・オブ・エクセレンス（NCCoE）がエージェントのIDと認可を扱うプロジェクトを立ち上げ、2月の概念文書には600件を超える意見が集まった。

今回の募集で日本政府が問うのは「どの古い規則が邪魔か」であり、台湾が問うのは「エージェントが守るべき新しい規則は何か」である。FDE AIの見解では、どちらの道でも、企業が最後に求められるのは、エージェントごとに何を任せたかを書いた「権限台帳」である。

FDE AIの見るところ、この台帳を持つ企業は多くない。モデルはベンダーが、アカウントは情報システム部門が、業務の手順は現場が、それぞれ別々に持っている。エージェントが社員のアカウントを借りて動けば、その社員にできることはエージェントにもすべてできてしまう。台湾の案が、起動した人の全権限を引き継がせないよう求めているのは、まさにこの穴をふさぐためだと読める。三者の境目にある空白を誰かが埋めない限り、エージェントは試行から先に進めない。