智慧型機器人101(之七):政府採購智慧型機器人要看什麼?——從性能驗收到資訊、稽核與停止權

政府採購智慧型機器人時,最容易先問的是:它能不能走、看得準不準、速度夠不夠快、價格是否合理?

這些問題當然重要,但還不夠。

如果一部機器人會蒐集資料、辨識人與環境、提出警示,甚至影響後續服務或處置,政府採購的就不只是硬體設備,而是一套可能影響人民權利與行政責任的系統。

因此,驗收不能只確認「機器人能不能運作」,還必須確認:政府是否拿得到必要資訊、能否查核系統、發現問題後能否修正,以及在風險出現時能否立即停止使用。

一、採購決定了政府日後能否負責

許多問題在機器人上線後才浮現:供應商不願提供判斷依據、資料被儲存在不清楚的位置、系統更新後性能改變、發生事故卻沒有完整紀錄,或政府想暫停使用卻受到契約、技術或資料移轉限制。

這些問題表面上出現在營運階段,根源卻常在採購階段沒有談清楚。

契約一旦只寫「提供設備」與「達成性能」,而沒有寫入資料、稽核、更新、異常通報、人工介入與停止條件,政府就很容易在最需要監督時發現自己沒有權利、也沒有資料。

所以,採購不是行政流程的前置作業,而是公共責任能否落實的第一道關卡。

二、從「買設備」轉為「買得起責任」

採購智慧型機器人時,至少需要把三項控制權寫清楚。

1. 資訊權:政府必須知道系統正在做什麼

資訊權不是要求政府取得每一行程式碼,而是確保機關有足夠資訊理解與監督系統。

契約應要求供應商提供:

  • 系統用途、使用邊界與不適用情境;
  • 感測器類型、蒐集資料範圍與處理流程;
  • 辨識、分類或警示功能的基本邏輯與限制;
  • 已知錯誤類型、高風險條件與性能測試結果;
  • 軟體版本、模型更新與功能調整的紀錄;
  • 資料儲存位置、保存期限、存取權限與刪除程序;
  • 異常、人工介入、事故與系統停止的紀錄格式。

機關若連這些基本資訊都無法取得,就很難向民眾說明系統如何影響其權益。

2. 稽核權:政府必須能查核系統是否仍符合要求

系統不是交機那天驗收通過就永遠可靠。機器人可能因環境變化、軟體更新、設備老化或資料條件改變而出現新的風險。

稽核權應包括:

  • 定期檢查性能、安全、資安與資料處理狀況;
  • 抽查系統紀錄與特定事件的處理過程;
  • 在合理保密措施下,要求供應商說明測試方法與異常原因;
  • 對重大更新進行重新評估,而非默認所有更新都可直接上線;
  • 允許主管機關或受委託的第三方進行必要查核;
  • 對民眾申訴、事故或疑似歧視事件,保留調閱相關紀錄的權限。

稽核不是找供應商麻煩,而是確認公共服務沒有在無人察覺的情況下逐漸偏離原本目的。

3. 停止權:風險出現時,政府必須停得下來

真正的控制力,不是看到問題後才寄函要求改善,而是能在必要時立即暫停、限制或終止系統使用。

停止權至少應包含:

  • 現場人員可操作的緊急停止機制;
  • 主管機關可在重大風險、事故、資安疑慮或權利侵害時暫停服務;
  • 暫停後可改採人工或其他替代流程,不讓人民失去必要服務;
  • 供應商不得以技術鎖定、資料扣留或不合理費用阻礙安全停用;
  • 停止後可保存必要紀錄,供事故調查、申訴處理與改善使用。

一套無法停止的系統,不是真正可被政府控制的公共工具。

三、驗收不只看「能不能動」

智慧型機器人的驗收,至少應分為四層。

驗收層次核心問題例子
功能驗收是否完成基本任務?能否導航、避障、搬運、巡檢或回傳訊息
安全驗收是否能在各種現場條件下安全運作?人潮、雨天、網路中斷、兒少與輪椅使用者出現時的反應
治理驗收是否具備監督、紀錄、人工介入與停止機制?是否保留異常紀錄、是否能人工覆核、誰可停用
權利驗收是否充分告知、最小化資料蒐集並保有申訴救濟?資料保存期限、民眾告知、人工服務與申訴管道

只完成第一層,表示設備或許能展示;完成四層,才較接近能被放心部署於公共服務。

四、不要讓「商業機密」阻斷公共監督

供應商可能主張模型、程式或技術細節屬於商業機密。這種主張在某些範圍內可以理解,但不能因此使政府完全失去監督能力。

政府未必需要公開完整原始碼,也不必對外揭露所有商業資訊;但至少應有權取得足以履行公共責任的文件、紀錄與說明。

可採取的做法包括:

  • 將必要資訊提供給主管機關或受保密義務拘束的查核人員;
  • 要求供應商提供可理解的系統說明、性能資料與限制清單;
  • 對特定事故提供事件紀錄與處理過程,而非只給結論;
  • 以契約區分應受保護的商業資訊與不能拒絕的公共監督資訊;
  • 對高風險用途,要求更高程度的透明與獨立檢查。

商業機密可以被保護,但不能成為「政府無法向人民說明」的理由。

五、第一線人員需要真正的異議與停止空間

採購條件若只設計給主管與資訊單位,卻沒有考慮第一線的實際使用情境,制度往往無法落實。

第一線人員最早看到機器人誤判、民眾困惑、系統干擾服務或現場出現意外情境。他們應能:

  • 回報異常,而不必擔心被認定為阻礙創新;
  • 對不合理的系統建議提出專業異議;
  • 在緊急或不適當情況下切換人工程序;
  • 知道異議會送到何處、多久得到回應;
  • 獲得足夠訓練,不被要求在不了解系統的情況下承擔全部責任。

這些不是單純的人事管理問題,而是採購與契約能否落實為安全公共服務的關鍵。

六、採購完成不等於責任完成

機器人從測試、交機到長期運作,可能持續更新功能、資料處理方式與使用範圍。政府應建立定期檢討機制,而不是只在採購案結束時檢查一次。

值得持續追蹤的問題包括:

  • 使用目的是否悄悄擴張?
  • 民眾申訴、異常事件與人工介入是否增加?
  • 系統是否對特定群體有較高誤判率?
  • 軟體或模型更新是否改變原有風險?
  • 人員是否仍有足夠時間與權限進行實質監督?
  • 資料是否已依約刪除,或被不當移作其他用途?

若這些問題被持續追蹤,採購才不只是一次交易,而是可被問責的公共治理過程。

結語:最好的採購,是保留政府的選擇權

政府導入智慧型機器人,不能只追求「買到最新設備」,更要確保自己在面對風險時仍保有理解、查核、修正與停止的能力。

資訊權讓政府看得懂;稽核權讓政府查得到;停止權讓政府停得下來。

這三項控制權,加上足夠的人力、清楚的責任分工與可用的救濟機制,才能使智慧型機器人真正成為公共服務的工具,而不是政府日後無法控制的黑箱。


下一篇預告

〈我們要接受什麼樣的機器人社會?——從效率競賽回到公共價值與民主選擇〉

最後一篇將回到最根本的問題:智慧型機器人不只是技術採購或個人使用選擇,而是關於我們希望公共空間、公共服務與民主社會如何運作的共同決定。

[上一篇]|返回智慧型機器人101總覽|[下一篇]