智慧型機器人101（之五）：機器人出錯時，誰負責？——從技術故障到公共責任鏈

當智慧型機器人誤判、碰撞、漏報危險、洩漏資料，或使某些人受到不公平待遇時，常見的回應是：「系統自動判定」、「AI出錯了」或「供應商的技術問題」。

但這些說法都不能成為責任的終點。

機器人不會自行決定要被部署在哪裡、蒐集哪些資料、採取多大的行動權限，也不會自行決定發生問題後是否通知民眾、是否停止使用、是否提供救濟。這些決定仍是由人與組織作出。因此，機器人出錯不是單純的技術事故，而是一項公共責任問題。

一、先分清楚：什麼叫作「出錯」？

機器人的問題不只是一台設備突然故障。至少可分成五種類型。

這些問題常常不是彼此獨立的。一次事故可能從感測器誤判開始，因為現場人員過度相信系統、主管未設停損程序，最後轉化為對人民的不當處置。

所以，不能只問「哪一個零件壞了」，還必須問：整條責任鏈在哪裡斷掉？

如果一項公共服務的結果對人民造成影響，政府不能僅以「系統自動判定」說明。

例如，機器人辨識出某人疑似跌倒，卻沒有人工確認便觸發不必要的處置；巡檢系統將正常行為標示為異常，導致民眾被盤問；無人設備蒐集的影像被不當使用。這些結果都不是由機器人單獨造成，而是由整個制度安排共同形成。

從公共行政的觀點，責任至少包括四個層次：

若這四個層次沒有在導入前就寫清楚，出事後便很容易出現相互推諉。

智慧型機器人進入公共服務後，最不公平的情況是：高層決定採購、系統由供應商設計、操作規則由管理單位訂定，但一旦出現問題，第一線人員卻被要求為所有後果負責。

第一線人員當然有查核、通報與保護服務對象的專業責任；但這項責任必須和實際權限相稱。

如果人員看不到系統依據、無法更正資料、沒有停止權、也沒有足夠時間處理警示，卻要承擔全部後果，這不是監督，而是責任向下轉嫁。

合理的安排應使不同角色各自承擔與其權限相當的責任：

責任分工不是為了讓每個人都簽更多文件，而是要讓有權決定的人無法在出事後退到系統背後。

政府採購智慧型機器人時，容易把供應商責任理解為設備保固、故障修理或定期維護。但對具有資料蒐集、辨識與決策功能的機器人而言，這還不夠。

供應商至少應有下列責任：

不過，供應商負有技術與契約責任，不等於政府可以把公共責任完全外包。決定是否使用、如何使用、是否影響人民權利的，仍是政府與公共機構。

機器人出錯後才開始找人負責，通常已經太晚。導入前就應建立可追溯的責任鏈，至少包括：

這些安排的價值，不在於保證永遠不出錯，而在於出錯時不會找不到人、找不到資料，也找不到停止與補救的方法。

公共機構最需要避免的，不是承認機器人出錯，而是為了維護「智慧化成功」的形象而掩蓋錯誤。

如果所有異常都被解釋成偶發事件，或被視為第一線操作不當，組織就無法真正學習。相反地，應將錯誤視為重新檢查制度的訊號：

能夠公開、紀錄、檢討與修正錯誤，並不會削弱政府的可信度；真正削弱信任的，是出了問題卻沒有人願意說明與負責。

一個能夠移動、辨識與執行任務的機器人，若缺乏清楚的責任安排，就不能稱為成熟的公共服務系統。

技術本身可能提供效率，但只有當目的、權限、理由、監督與補救被一併設計時，它才可能真正服務公共價值。

因此，面對智慧型機器人，最重要的問題始終不是「誰該背鍋」，而是：在系統開始運作之前，誰已經承諾在必要時站出來，說明、修正並承擔後果？

〈機器人蒐集了誰的資料？——從感測、隱私到弱勢者權利保障〉

下一篇將討論智慧型機器人如何蒐集影像、聲音、位置與行為資料，以及政府與公共機構為何必須特別注意兒少、高齡者、身心障礙者與其他弱勢使用者的權利。