2026年10月10日 · 治理 · 技術文章

為什麼 AI 不能自己給自己權限

Agent 可以做很多事，但「准不准」要由治理層回答，決定權在人。

AiTOM閱讀約 6 分鐘

重點摘要

想像一家連鎖品牌要在週五晚上寄出一封促銷信。過去，這件事需要行銷人員整理名單、設計師出圖、工程師按下發送。現在，一個 AI 助理可以在幾分鐘內把三件事都做完。速度變快了，但有一個問題變得比以前更重要：誰說它可以按下發送？

我們的答案很簡單：AI 可以做很多事，但「准不准」不是它自己能回答的問題。這不是因為 AI 不夠聰明，而是因為權限本身就是一種承諾。讓一個系統自己決定自己能做什麼，就像讓新進同事自己簽核自己的報帳單，再誠實的人也不該被放在那個位置。

這篇文章說明我們怎麼把「准不准」從 AI 手上拿出來，交給一個獨立的治理層，最後把決定權留在人身上。

當 AI 想做一件事，不論是讀一份資料、改一個欄位，還是對外寄出一封信，請求都會依序經過六道閘道。順序是固定的，任何一道說「不」，請求就停在那裡，並留下原因。

這六道閘道沒有一道是新發明。銀行、醫院與航空業早就用類似的方法管理高風險操作。我們做的事，只是把這套常識完整地套用在 AI 身上，而且不給任何例外通道。

在公司內部改一份文件，失敗了可以重來。但寄出一封信、送出一筆訂單、在別人的系統上建立一筆資料，這些對外動作一旦發生，就收不回來。更麻煩的是，網路有時候會在中途斷掉：你送出了請求，卻沒收到回應。

所以我們把每個對外動作的結果分成三種，而不是簡單的成功或失敗：

最危險的是第三種。直覺的反應是「再送一次」，但如果第一次其實已經成功，顧客就會收到兩封一模一樣的促銷信。因此規則是：不確定的時候，先對帳，再決定要不要重試。也就是先去查對方系統的實際狀態，確認那件事到底有沒有發生。

另一個保險是冪等鍵。每個對外動作在第一次送出時就帶著一個唯一的號碼，重試時沿用同一個號碼。對方系統看到同一個號碼，就知道「這是同一件事」，不會做第二次。對帳加上冪等鍵，讓重試從一件需要祈禱的事，變成一件可以放心做的事。

有一小份清單上的事，不論 AI 表現多好、提出多充分的理由，都不會交給它做：

這份清單的共同點是：一旦出錯，代價很高，而且很難挽回。AI 可以幫忙準備，例如把要付款的明細整理好、把要刪除的檔案列出來，但按下最後那一顆按鈕的，一定是人。

AI 可以把路鋪到門口，但開門的鑰匙不在它手上。

特別值得一提的是「變更權限」。如果 AI 可以替自己加權限，前面六道閘道就形同虛設。所以權限設定本身，就放在 AI 碰不到的地方。

把決定權留給人，聽起來好像會讓事情變慢。如果每件小事都要人逐字審閱，確實會。所以我們把人需要做的事，壓縮成最簡單的形式：一張編號裁決卡。

AI 會先把能自己做完的事做完，只把真正需要人拍板的問題整理出來，一條一條編號，附上它的建議。人不需要重寫任何東西，只要回一句「1 可、2 暫緩」，AI 就照著執行，並把這個決定記進事件紀錄。

以寄送促銷信為例，卡片上可能寫著：第一條，週五晚上八點寄給本季會員；第二條，排除三十天內已購買的顧客。行銷負責人看完回「1 可、2 可」，事情就往下走。整個過程花不到一分鐘，但每一步都有人同意、有紀錄可查。

這樣的設計讓人做的是判斷，而不是打字。AI 負責整理與執行，人負責說「好」或「還不要」。分工清楚，速度也不會因為治理而犧牲太多。

被擋下的請求不是失敗，而是一個訊號。假設 AI 想替促銷信名單加入一批新顧客，但權限閘道發現這個工作只被允許讀取名單、不能修改。請求會停下來，事件紀錄會寫下是哪一道閘道、因為什麼原因拒絕。

接著 AI 不會想辦法繞過去，而是把這件事整理成一張裁決卡：「是否允許本次工作修改會員名單？」由人決定要不要放行、放行到什麼範圍。這樣一來，權限的每一次擴大都有人同意、有紀錄可查，而不是在某次執行中悄悄發生。