政府採購智慧型機器人時,最容易先問的是:它能不能走、看得準不準、速度夠不夠快、價格是否合理?
這些問題當然重要,但還不夠。
如果一部機器人會蒐集資料、辨識人與環境、提出警示,甚至影響後續服務或處置,政府採購的就不只是硬體設備,而是一套可能影響人民權利與行政責任的系統。
因此,驗收不能只確認「機器人能不能運作」,還必須確認:政府是否拿得到必要資訊、能否查核系統、發現問題後能否修正,以及在風險出現時能否立即停止使用。
一、採購決定了政府日後能否負責
許多問題在機器人上線後才浮現:供應商不願提供判斷依據、資料被儲存在不清楚的位置、系統更新後性能改變、發生事故卻沒有完整紀錄,或政府想暫停使用卻受到契約、技術或資料移轉限制。
這些問題表面上出現在營運階段,根源卻常在採購階段沒有談清楚。
契約一旦只寫「提供設備」與「達成性能」,而沒有寫入資料、稽核、更新、異常通報、人工介入與停止條件,政府就很容易在最需要監督時發現自己沒有權利、也沒有資料。
所以,採購不是行政流程的前置作業,而是公共責任能否落實的第一道關卡。
二、從「買設備」轉為「買得起責任」
採購智慧型機器人時,至少需要把三項控制權寫清楚。
1. 資訊權:政府必須知道系統正在做什麼
資訊權不是要求政府取得每一行程式碼,而是確保機關有足夠資訊理解與監督系統。
契約應要求供應商提供:
- 系統用途、使用邊界與不適用情境;
- 感測器類型、蒐集資料範圍與處理流程;
- 辨識、分類或警示功能的基本邏輯與限制;
- 已知錯誤類型、高風險條件與性能測試結果;
- 軟體版本、模型更新與功能調整的紀錄;
- 資料儲存位置、保存期限、存取權限與刪除程序;
- 異常、人工介入、事故與系統停止的紀錄格式。
機關若連這些基本資訊都無法取得,就很難向民眾說明系統如何影響其權益。
2. 稽核權:政府必須能查核系統是否仍符合要求
系統不是交機那天驗收通過就永遠可靠。機器人可能因環境變化、軟體更新、設備老化或資料條件改變而出現新的風險。
稽核權應包括:
- 定期檢查性能、安全、資安與資料處理狀況;
- 抽查系統紀錄與特定事件的處理過程;
- 在合理保密措施下,要求供應商說明測試方法與異常原因;
- 對重大更新進行重新評估,而非默認所有更新都可直接上線;
- 允許主管機關或受委託的第三方進行必要查核;
- 對民眾申訴、事故或疑似歧視事件,保留調閱相關紀錄的權限。
稽核不是找供應商麻煩,而是確認公共服務沒有在無人察覺的情況下逐漸偏離原本目的。
3. 停止權:風險出現時,政府必須停得下來
真正的控制力,不是看到問題後才寄函要求改善,而是能在必要時立即暫停、限制或終止系統使用。
停止權至少應包含:
- 現場人員可操作的緊急停止機制;
- 主管機關可在重大風險、事故、資安疑慮或權利侵害時暫停服務;
- 暫停後可改採人工或其他替代流程,不讓人民失去必要服務;
- 供應商不得以技術鎖定、資料扣留或不合理費用阻礙安全停用;
- 停止後可保存必要紀錄,供事故調查、申訴處理與改善使用。
一套無法停止的系統,不是真正可被政府控制的公共工具。
三、驗收不只看「能不能動」
智慧型機器人的驗收,至少應分為四層。
| 驗收層次 | 核心問題 | 例子 |
|---|---|---|
| 功能驗收 | 是否完成基本任務? | 能否導航、避障、搬運、巡檢或回傳訊息 |
| 安全驗收 | 是否能在各種現場條件下安全運作? | 人潮、雨天、網路中斷、兒少與輪椅使用者出現時的反應 |
| 治理驗收 | 是否具備監督、紀錄、人工介入與停止機制? | 是否保留異常紀錄、是否能人工覆核、誰可停用 |
| 權利驗收 | 是否充分告知、最小化資料蒐集並保有申訴救濟? | 資料保存期限、民眾告知、人工服務與申訴管道 |
只完成第一層,表示設備或許能展示;完成四層,才較接近能被放心部署於公共服務。
四、不要讓「商業機密」阻斷公共監督
供應商可能主張模型、程式或技術細節屬於商業機密。這種主張在某些範圍內可以理解,但不能因此使政府完全失去監督能力。
政府未必需要公開完整原始碼,也不必對外揭露所有商業資訊;但至少應有權取得足以履行公共責任的文件、紀錄與說明。
可採取的做法包括:
- 將必要資訊提供給主管機關或受保密義務拘束的查核人員;
- 要求供應商提供可理解的系統說明、性能資料與限制清單;
- 對特定事故提供事件紀錄與處理過程,而非只給結論;
- 以契約區分應受保護的商業資訊與不能拒絕的公共監督資訊;
- 對高風險用途,要求更高程度的透明與獨立檢查。
商業機密可以被保護,但不能成為「政府無法向人民說明」的理由。
五、第一線人員需要真正的異議與停止空間
採購條件若只設計給主管與資訊單位,卻沒有考慮第一線的實際使用情境,制度往往無法落實。
第一線人員最早看到機器人誤判、民眾困惑、系統干擾服務或現場出現意外情境。他們應能:
- 回報異常,而不必擔心被認定為阻礙創新;
- 對不合理的系統建議提出專業異議;
- 在緊急或不適當情況下切換人工程序;
- 知道異議會送到何處、多久得到回應;
- 獲得足夠訓練,不被要求在不了解系統的情況下承擔全部責任。
這些不是單純的人事管理問題,而是採購與契約能否落實為安全公共服務的關鍵。
六、採購完成不等於責任完成
機器人從測試、交機到長期運作,可能持續更新功能、資料處理方式與使用範圍。政府應建立定期檢討機制,而不是只在採購案結束時檢查一次。
值得持續追蹤的問題包括:
- 使用目的是否悄悄擴張?
- 民眾申訴、異常事件與人工介入是否增加?
- 系統是否對特定群體有較高誤判率?
- 軟體或模型更新是否改變原有風險?
- 人員是否仍有足夠時間與權限進行實質監督?
- 資料是否已依約刪除,或被不當移作其他用途?
若這些問題被持續追蹤,採購才不只是一次交易,而是可被問責的公共治理過程。
結語:最好的採購,是保留政府的選擇權
政府導入智慧型機器人,不能只追求「買到最新設備」,更要確保自己在面對風險時仍保有理解、查核、修正與停止的能力。
資訊權讓政府看得懂;稽核權讓政府查得到;停止權讓政府停得下來。
這三項控制權,加上足夠的人力、清楚的責任分工與可用的救濟機制,才能使智慧型機器人真正成為公共服務的工具,而不是政府日後無法控制的黑箱。
下一篇預告
〈我們要接受什麼樣的機器人社會?——從效率競賽回到公共價值與民主選擇〉
最後一篇將回到最根本的問題:智慧型機器人不只是技術採購或個人使用選擇,而是關於我們希望公共空間、公共服務與民主社會如何運作的共同決定。
[上一篇]|返回智慧型機器人101總覽|[下一篇]