AI 治理 101（之一）：AI 治理到底治理什麼？

盧建旭（Jyan-Shiu Lu）
AI 治理 101 系列｜2026 年 8 月

一、當效率開始影響權利，問題就不再只是技術

假設某個政府機關使用 AI 協助審查社會福利申請。系統可以整理資料、標示異常案件，甚至預測哪些申請可能有問題。這項做法有很強的理由：承辦人不必逐筆翻閱大量文件，民眾也可能更快得到結果。面對案件增加與人力不足，政府沒有必要因為 AI 可能出錯，就拒絕所有技術協助。

問題是，效率的承諾背後藏著一個沒有說明的假定：只要最後仍由公務員按下確認鍵，原有的行政責任與人民權利就不會改變。

事情未必如此。如果承辦人每天必須處理數百件申請，他真的有時間推翻系統建議嗎？AI 標示的「異常」根據什麼資料？某位民眾因此被延後或拒絕給付時，政府能否提出讓他聽得懂、也能依法申訴的理由？如果無法提出，最後那一次人工確認，究竟是實質判斷，還是替系統決定加上一個人的簽名？

這就是 AI 治理真正開始的地方。

二、先承認現行治理的承諾

目前國際 AI 治理制度大致作出三項承諾：AI 應受到全生命週期管理；管理強度應依用途與風險而不同；系統應符合安全、公平、透明與問責等要求。這些承諾有其必要性。

美國國家標準暨技術研究院（NIST）的 AI 風險管理框架，以「治理、描繪、衡量、管理」（Govern, Map, Measure, Manage）說明組織如何持續處理 AI 風險。歐盟《人工智慧法》採取風險分級，使高風險用途承擔較高義務。聯合國教科文組織的 AI 倫理建議，則把人權、比例原則、安全、公平、透明與問責放在共同基礎上。

這些制度至少修正了一種過度樂觀的想法：AI 不是買進機關、通過驗收，就會自動成為可信賴的行政工具。資料可能改變，模型可能更新，實際使用情形也可能偏離原來設計。因此，治理不能只在採購或事故發生時出現，而必須從用途設定延續到停止使用。

雖然如此，原則並不會自行轉化為行政能力。法規寫下「透明」，不代表承辦人就能向民眾解釋模型；制度要求「問責」，也不代表機關、廠商與資料提供者之間已經分清責任。AI 治理如果停在原則宣示，最容易發生的結果，就是每一項價值都被接受，卻沒有人知道在具體案件中應由誰採取行動。

三、AI 治理不能只管模型

一般人常把 AI 治理理解成「政府管制 AI」，或者把它視為隱私、偏見與資安問題的集合。這些理解都沒有錯，但仍然把治理對象想得太小。

同一個模型，用來校正文句、判讀醫療影像、安排警政巡邏或協助審查福利資格，產生的公共後果完全不同。真正影響結果的，也不只有演算法。資料如何分類、機關如何設定門檻、介面如何提醒承辦人、主管如何要求績效，以及廠商願意提供多少資訊，都可能改變最後決定。

因此，本文把 AI 治理理解為：人類社會與組織為 AI 設定目的、權限、程序、界線與責任的一整套制度。

這個定義的重點不在於包羅萬象，而在於拒絕把 AI 從行政體系中抽離。模型必須治理，但採購系統的機關、負責導入的主管、實際操作的公務員，以及承作系統的廠商，也都在治理範圍內。

對公共管理者而言，制度至少必須回答幾個實際問題：機關為什麼需要這套系統？它使用的資料是否足以代表服務對象？AI 是提供建議，還是實際排除某些人？承辦人有沒有時間、能力與權限不同意系統？受到影響的民眾如何得知、要求更正並提出救濟？如果系統持續失準，誰可以暫停使用？

最後一個問題尤其重要。可以被採購的系統，也必須是可以被停止的系統。沒有停止條件的監督，往往只能記錄問題，不能處理問題。

四、與傳統治理相比，改變的是什麼？

把傳統治理說成規則明確、因果清楚，再把 AI 治理說成充滿黑箱與不確定性，雖然簡單，卻不符合行政現實。政府決策本來就有資訊不足、行政裁量、跨部會協調、委外服務與責任爭議。AI 並不是把一個完全確定的世界突然變得不確定。

但是反過來，這也不能成為「現行制度已經足夠」的理由。AI 可能把判斷嵌入資料、模型權重、風險分數、預設門檻與介面設計之中；同一項偏差又可能透過大量、自動化使用，在短時間內影響成千上萬人。過去寫在法規與作業手冊中的規則，現在有一部分可能轉移到政府看不見、民眾也無從追問的系統裡。

公私邊界也因此改變。政府可以向企業購買模型、雲端服務或整套決策系統，廠商也有理由保護營業秘密與資安資訊。然而，政府不能因為技術來自廠商，就把向人民說明的責任一併外包。營業秘密可以限制公開的細節，卻不能消除行政機關提出理由與提供救濟的義務。

而且，政府面對的通常不是單一廠商。一套 AI 系統可能同時涉及基礎模型提供者、系統整合商、資料整理或清理業者、雲端服務商及後續維護廠商。錯誤若發生在供應鏈中間，每一家業者都可能只掌握部分資訊，也都可能主張問題不在自己。此時，行政機關若無法重建資料從哪裡來、模型何時更新、哪一家廠商修改過什麼，就算形式上找到契約相對人，也未必找得到真正的責任斷點。

因此，政府採購不能只約定功能、價格與交付期限。對可能影響人民權益的系統，契約還應保留對重要分包、資料來源、模型版本與變更紀錄的查核權，要求主要承作廠商整合供應鏈資訊，並事先約定廠商不配合時的限期改善、暫停驗收、違約處理與終止契約條件。這不是要求政府取得所有營業秘密，而是確保公共責任不會在層層轉包之間中斷。

較合理的做法，不是另造一套制度取代行政法、採購法與既有課責機制，而是在原制度中補入模型評估、廠商資訊提供義務、承辦人推翻系統建議的權限、持續監測與停止使用等安排。這是一種增補式改革：承認現行制度仍是合法行政的底線，也承認它尚未充分處理 AI 進入之後，制度設計與行政實務之間的新落差。

五、本文的觀點：治理風險之前，先看權力如何移動

以上大致屬於當前 AI 治理的共同問題。本文進一步主張，對政府而言，AI 治理不能只被理解為控制科技風險。更根本的問題是：AI 進入行政體系後，原來的權威、理由與責任如何重新配置？

如果 AI 只協助整理會議紀錄，主要問題可能是資料保密與內容正確；但如果它排列稽查優先順序、評估福利風險或協助辨識犯罪嫌疑人，它就不只是提高效率。它正在影響政府注意誰、懷疑誰、幫助誰，以及把有限資源分配給誰。

這時候，說「AI 只是輔助工具」並不能結束討論。工具也可能改變行動者的選擇範圍。如果承辦人無法理解系統、主管只能依賴廠商、民眾又無從知道 AI 曾經介入，那麼形式上仍由政府決定，實質影響力卻已沿著資料、模型與契約移向其他行動者。

這就是為何責任稽核與理由稽核不能混在一起。找到最後簽名的人，不等於政府已提出充分理由；能夠說明模型如何運作，也不等於有人願意承擔錯誤後果。AI 治理必須分別追問：誰有權影響決定？誰向人民說明？誰在制度失靈時負責修正與賠補？

本文不主張每一次 AI 使用都要接受最高強度的審查。治理強度仍應依權利影響、使用規模、錯誤可逆性與救濟可能性而定。但是，只要 AI 已實質影響具有公共效果的決定，行政機關就不能只證明模型「平均而言很準確」。它仍須證明這項使用具有合法目的、程序可以受到檢查、個案可以獲得理由，而且錯誤發生時有明確的回歸點。

六、初學者需要懂多少技術？

大學生與公務員不必先成為程式設計師，才有資格參與 AI 治理。這不表示技術知識不重要，而是不同角色需要的知識深度不同。工程師必須理解模型與測試方法；採購人員要知道如何把資料、稽核與退場要求寫入契約；承辦人則必須知道系統的用途、限制，以及何時不能依賴它。

對初學者而言，真正需要的是足以提出正確問題的治理素養。看到一套 AI 系統時，不妨先問：我們為什麼需要它？它會影響誰的權益？人能否真正推翻它的建議？受到影響的人能否取得理由與救濟？最後由誰負責？

如果這些問題沒有答案，多學一個提示詞技巧，也不能補上制度缺口。反過來，只要能把技術問題轉化為目的、權限、程序與責任問題，非工程背景的人一樣可以對 AI 治理作出重要貢獻。

七、法規已經開始改變，但制度仍須落實

截至 2026 年 8 月，臺灣《人工智慧基本法》已公布施行，揭示永續發展與福祉、人類自主、隱私保護與資料治理、資安與安全、透明與可解釋、公平與不歧視及問責等七項原則。歐盟《人工智慧法》也已進入分階段適用與執行。英國中央政府則要求一定範圍內的公共機關，依演算法透明紀錄標準公開其如何以及為何使用演算法工具。

這些進展說明，AI 治理已不再只是倫理口號。但真正困難之處仍在行政現場：誰盤點機關正在使用的系統？誰判定風險等級？廠商不提供必要資料時，採購單位能否拒絕驗收？民眾提出異議後，案件由誰重新審查？

另一個經常被忽略的問題，是承辦人能否真正不採納 AI 的建議。制度即使寫明「由人作成最後決定」，如果機關只用處理速度與案件數量考核績效，承辦人一旦要求重新查核，就可能被視為降低效率；如果他推翻系統後判斷出錯，還可能承擔比依循系統更高的個人風險。形式上的決定權，因此不必然等於實質裁量權。

合理的制度不應給予公務員概括免責，也不應要求他們無條件服從系統。機關可以建立專業異議與不採納機制：允許承辦人簡要記錄不採納理由；重大案件交由主管或跨專業人員複核；不得僅因承辦人偏離 AI 建議，就作成不利考核；對已完成必要查證、提出理由並依程序善意判斷者，提供適當的組織支持與責任保障。反之，未經查證或沒有理由的決定，仍不能因為出自人而當然免責。

法規可以設定底線，卻不能自行完成執行。除非機關把責任主體、監測期限、申訴程序、專業異議、責任保障與停止條件一併建立，否則「由人監督」、「透明」與「問責」仍可能停留在文件上。

結語：AI 治理是在重新確定人的位置

AI 治理不是反對創新，也不是要求每一套低風險工具接受相同管制。它要處理的是：當效率與創新的承諾開始改變行政判斷時，政府如何保留公共性、合法性、課責與人民權利。

對大學生而言，理解 AI 治理，是開始看懂未來社會如何分配機會、風險與權力；對公務員而言，它則是重新確認專業責任。AI 可以協助處理資訊，卻不能替政府取得合法性，也不能替行政機關向人民提出理由。

所以，當我們問「AI 治理到底治理什麼」，答案不只包括資料、模型、用途與風險。更深一層，它治理的是 AI 進入制度以後重新形成的權力、理由與責任關係。技術可以改變行政工具，但政府仍須回答：誰決定、誰說明、誰負責；如果制度失靈，又由誰讓它停下來。

官方延伸閱讀

想一想

假設某機關使用 AI 協助審查補助申請，承辦人認為系統「通常很準」，便依照系統建議作成決定。此時真正需要被治理的是什麼？

A. 模型運算速度是否更快
B. 機關能否說明理由，並由人承擔最後責任
C. 是否能蒐集更多個人資料

查看我的看法

較適當的是 B。

AI 的準確率當然重要，但只要它開始影響人民能否取得補助、資格或其他權益，機關就不能只說「系統這樣判斷」。真正的治理問題是：誰有權作最後決定、能否向人民說明理由、錯誤發生時由誰負責，以及人民如何提出異議。

你是否遇過由系統先作出判斷，而人只能照辦的情況？

歡迎留言分享你的經驗或問題。留言將先經審核後公開；請勿留下個人身分證號、案件資料或其他敏感個資。

回到AI 治理101選項