盧建旭（Jyan-Shiu Lu）
給大學生與公務員的入門文章｜第二稿，2026 年 8 月
一、政府仍由人作成決定，為什麼還需要 AI 治理？
假設一個政府機關使用 AI 協助審查補助申請。法規沒有改變，主管機關沒有改變，最後的公文仍由公務員核章。從表面上看，政府只是多了一項提高效率的工具，似乎不必因此發展一套新的治理方式。
這個看法並非毫無道理。政府本來就受到法律、預算、採購、資訊安全、個人資料保護及行政救濟制度的約束。AI 進入政府，不表示這些制度突然失效，更不表示過去的公共行政知識可以全部丟棄。
問題是，最後由人核章，不代表判斷仍完全由人形成。如果系統已經決定哪些案件先被看見、哪些資料被當成異常、哪些申請人被列為高風險，承辦人的注意力與選擇範圍便已受到影響。公務員可能仍握有形式上的決定權，卻只是在系統事先整理好的選項中作成選擇。
這裡還有一項容易被忽略的心理現象，稱為「自動化偏誤」（automation bias）：當電腦系統提出看似客觀而一致的建議時，使用者可能傾向接受它，並忽略與系統判斷不一致的其他證據。這不等於公務員怠惰或不負責任。案件量、時間壓力、介面設計及對系統準確度的信任，都可能使人逐漸把「系統建議」當成「應該採取的答案」。因此，有人保留最後核章權，並不足以證明人的判斷未受自動化影響。
所以，真正需要比較的，不是「人治政府」與「機器政府」，也不是「舊制度」與「新制度」何者應該取代對方，而是：AI 進入行政程序後，政府形成判斷、說明理由及承擔責任的方式，究竟發生了哪些變化？
二、傳統政府治理並不是一個完全透明的世界
談論 AI 治理時，常見的說法是：傳統治理依照明確規則運作，AI 則具有黑箱、不確定與持續變動的特性。這種對比便於理解，卻把傳統政府治理說得過度理想。
政府長期以來就必須在資訊不足之下作成決定。所謂「行政裁量」，是指法律在一定範圍內保留給行政機關的判斷空間，例如依個案情節決定補助金額，或在法定範圍內選擇罰鍰級距。「法律效果」則是政府決定對人民權利義務產生的實際結果，例如是否核准補助、應繳多少罰鍰，或能否取得某項資格。這些判斷不可能全部寫成機械式規則；跨部會政策可能出現權責不清；專家判斷、委外服務與資訊系統也可能形成一般民眾不容易理解的過程。即使沒有 AI，行政機關同樣會面對錯誤、偏差、責任推卸與救濟困難。
傳統制度仍提供了一套重要的治理承諾：行政權力應有法律依據；機關內部應有職務分工與層級監督；政府作成不利決定時，原則上必須提出理由；民眾則可以透過陳情、申訴、訴願或行政訴訟要求重新檢查。這些制度未必總能完善運作，但它們建立了政府不能任意決定的基本界線。
AI 治理不是要否定這些界線，而是追問：當部分判斷轉移到資料、模型、介面與承作廠商之後，原有制度是否仍能看見真正影響決定的地方？
三、第一個差異：判斷時程前移
傳統行政程序通常把注意力放在最後的行政處分、核定或執行行為。AI 系統卻可能在更早的階段影響結果。例如，它可以決定案件如何分類、哪一類資料值得注意、誰需要接受進一步查核，以及哪些選項優先呈現在承辦人面前。
這些安排不一定直接作成行政處分，卻可能改變後續判斷。以社會福利審查為例，預警系統可能因申請資料缺漏、地址變動頻繁或資料庫無法正確串接，把某些案件標示為高風險，並排到人工複查隊列。稅務機關的抽查系統，也可能依風險分數決定哪些案件優先查核。這些系統未必直接拒絕人民，卻會影響誰先被懷疑、誰必須提出更多證明，以及誰需要等待更久。民眾可能在尚未收到正式處分以前，就已承受不同待遇。
因此，AI 治理必須把檢查時間往前移。不能只在公文發出後追問承辦人為何核章，也要追問資料如何分類、模型門檻由誰設定、介面如何呈現結果，以及這些設計是否已經影響行政裁量。
四、第二個差異：錯誤規模化與隱蔽化
公務員可能判斷錯一個案件；AI 系統則可能用同一種偏差處理成千上萬個案件。這不表示人為錯誤比較可以接受，而是表示 AI 使錯誤具有規模化、重複化及持續化的可能。
更麻煩的是，每一位民眾看到的可能只是自己的案件。他不知道其他人是否遭遇相同問題，第一線承辦人也未必知道同一模型已在不同單位產生類似偏差。個別案件看起來只是偶發錯誤，累積起來卻可能形成系統性的不公平。
因此，傳統的個案救濟仍然必要，但不一定足夠。機關還需要持續監測整體結果，觀察錯誤是否集中於特定地區、群體或案件類型。這至少包括兩類工作：第一，檢查資料是否缺漏、過時、重複或無法代表實際服務對象；第二，比較不同群體的錯誤率、延誤率與不利結果，檢查系統是否對特定群體產生持續而不合理的差異。這類工作可概括稱為資料品質檢驗與公平性測試。公平性測試不表示所有群體的結果必須完全相同，而是要求機關能發現差異、解釋差異，並判斷差異是否具有正當理由。一旦發現系統性偏差，也不能只更正一件公文，而必須調整或停止整套系統。
五、第三個差異：責任跨越機關與供應鏈
傳統政府治理已經存在委外與採購，但 AI 系統使外部行動者更深地介入行政判斷。一套系統可能由基礎模型提供者、資料整理業者、系統整合商、雲端服務商與維護廠商共同完成。政府購買的不只是設備，而可能是資料分類方式、風險評分邏輯與介面中的預設選項。
當錯誤發生時，承辦人可能說自己依照系統建議，機關可能說技術由廠商提供，主要廠商又可能把問題歸因於模型或資料來源。責任並沒有消失，卻可能斷裂在契約與供應鏈之間。
這使政府採購不再只是取得功能與控制成本。契約還必須處理資料來源、模型版本、重要分包、變更紀錄、查核權、廠商資訊提供義務，以及不配合時的改善、驗收與終止條件。政府可以尊重營業秘密，但不能因此失去向人民說明與追查責任的能力。
臺灣目前已有可供機關參照的行政工具。行政院及所屬機關（構）使用生成式 AI 參考指引，要求機關注意機密、個人資料、資通安全、智慧財產權及廠商使用生成式 AI 等事項；數位發展部另公布《公部門人工智慧應用參考手冊》，協助機關從需求、風險與管理面思考 AI 應用。公共工程委員會的採購契約範本附記條款特別聲明，也已納入生成式 AI 的使用規範。不過，這些文件主要提供共同起點；遇到會影響人民權益的 AI 系統，機關仍須依用途與風險，把資料查核、供應鏈揭露、模型變更、稽核權及違約處理具體寫入個案契約。
六、第四個差異：治理時間延伸至全生命週期
傳統課責經常在錯誤或爭議發生後啟動：查明事實、確認違法、追究責任並提供救濟。AI 系統仍然需要這些事後機制，但如果等到大量案件受到影響才開始處理，代價可能已經太高。
這也是為什麼當代 AI 治理強調風險分級與全生命週期管理。NIST 的 AI 風險管理框架把治理、情境描繪、衡量與管理連結起來；歐盟《人工智慧法》則依用途與風險設定不同義務，並要求高風險系統在投入使用後持續監測。共同方向不是要求所有 AI 接受同樣管制，而是把治理延伸到用途設定、資料準備、測試、導入、監測、更新與停止使用。
對政府而言，這代表「通過驗收」不能成為治理的終點。系統上線後仍可能因資料改變、模型更新或使用方式偏離原定目的而失準。機關因此需要定期檢查，也要事先設定退場機制。退場機制至少包括三件事：達到哪些錯誤率、資安事件或權利風險時必須暫停；試辦或授權經過一定期間後，是否需要重新審查，也就是類似「日落條款」的安排；系統停止或失效時，機關能否回復人工處理或使用其他備援流程。沒有人工備援的暫停權，往往只存在於文件上。
七、第五個差異：人類監督必須實質有效
許多制度以「最後仍由人決定」作為保障。但是，如果承辦人看不懂系統輸出、沒有時間重新查證、無權要求廠商提供資料，或因績效考核而不敢偏離系統建議，那麼人工確認可能只剩形式。
實質的人類監督至少需要四項條件：承辦人知道 AI 在哪個環節介入；能取得足以判斷其限制的資訊；有權不採納或推翻系統建議；並且在依程序提出合理異議時，不會只因降低處理速度而受到不利考核。英國政府的演算法透明紀錄標準（ATRS）要求公部門說明使用了什麼演算法工具、為何使用及由誰負責，正是在補強組織可見性與公共說明。
考績與組織文化尤其重要。如果機關一方面要求承辦人實質審查，另一方面卻只用每小時處理件數、平均結案天數或採納系統建議的比例衡量績效，承辦人便會承受偏離系統的額外風險。這時候，「可以推翻 AI」只是名義上的權限。機關必須把合理覆核、提出異議及發現系統錯誤也視為工作成果，並為依程序作成的專業判斷提供適當保障。
這也表示，政府不能把「有人核章」當成免除組織責任的理由。承辦人應對自己的判斷負責，但機關也必須提供訓練、時間、複核管道與適當的責任保障。沒有組織條件的人工監督，只是把系統風險轉嫁給最後簽名的人。
八、本文的觀點：改變的是三條治理鏈
以上所述的風險分級、全生命週期管理、人類監督與透明要求，大致屬於目前 AI 治理的共同方向。本文進一步從公共行政角度提出一項看法：AI 與傳統政府治理最重要的差異，在於它同時拉長並重新排列了權威鏈、理由鏈與責任鏈。
權威鏈追問的是：誰實際影響政府的選擇？當模型、資料或介面先行篩選案件時，權威不再只存在於法規與組織職位之中。
理由鏈追問的是：政府能否把系統輸出轉化為民眾可以理解、質疑與申訴的行政理由？模型具有技術說明，不等於個案已獲得充分理由。
責任鏈追問的是：錯誤發生後，誰負責停止、修正、賠補並防止再次發生？找到最後核章的人，也不等於已找到制度失靈的原因。
這三條鏈彼此相關，卻不能混為一談。知道誰負責，不代表理由已經充分；能夠解釋模型，也不表示有人願意承擔後果。AI 治理的任務，是避免公共權力在技術分工與契約關係中移動之後，政府仍只沿用原來的組織圖尋找答案。
| 治理鏈 | 傳統政府治理的主要位置 | AI 進入政府後的變化 |
| 權威鏈 | 主要存在於法規授權、組織職位與正式行政程序之中 | 部分影響前移至資料篩選、模型門檻、風險評分與介面設計 |
| 理由鏈 | 主要透過行政處分、法定程序及書面理由向人民說明 | 還須把技術輸出轉化為民眾可以理解、質疑與申訴的行政理由 |
| 責任鏈 | 主要沿機關層級、職務分工與最後核章者追查 | 必須穿透供應鏈，追查資料、模型、系統整合商、分包廠商與機關的共同作用 |
結語：AI 治理不是取代傳統治理，而是修補新的責任缺口
AI 治理與傳統政府治理不是兩套彼此排斥的制度。合法性、行政程序、層級監督、理由說明及人民救濟，仍然是政府使用 AI 時不可放棄的基礎。
真正的差異是，AI 可能在正式決定之前形成判斷，以相同方式大規模影響案件，讓外部廠商深入行政過程，並使責任分散於資料、模型、契約與組織之間。治理因此必須更早介入、持續監測，而且能夠穿過技術與供應鏈，重建權威、理由與責任的連結。
所以，我們不必把 AI 想成即將接管政府的另一個主體；但也不能因為最後仍由公務員核章，就假定政府治理沒有改變。真正需要防止的，是政府保留了決定的形式，卻逐漸失去理解、說明與修正決定的能力。
官方延伸閱讀
國家科學及技術委員會：行政院及所屬機關（構）使用生成式 AI 參考指引問答
Parasuraman 與 Manzey（2010）：自動化依賴與自動化偏誤
美國 NIST：Artificial Intelligence Risk Management Framework
英國政府：Algorithmic Transparency Recording Standard 指引
想一想
當政府使用 AI 協助作出判斷時，它與傳統的行政資訊系統最重要的差異是什麼？
A. AI 的畫面通常比較新、運算也比較快。
B. AI 的輸出可能在正式決定之前，就影響人如何理解案件、設定優先順序與行使裁量。
C. AI 一定比原有系統更客觀，因此不需要人工覆核。
較適當的是 B。
傳統資訊系統多半是協助登錄、查詢或計算；AI 則可能先替人判斷什麼重要、誰有風險、哪些案件應優先處理。它未必直接取代公務員作最後決定，卻可能先改變行政裁量的起點。
因此，治理不能只問系統有沒有出錯，更要問：AI 如何影響人的判斷？承辦人能否推翻建議？機關能否說明最後決定的理由？
回到AI治理101