歐盟 AI 法案（EU AI Act）對於智慧型機器人和自駕系統有哪些具體的風險分級與規範
歐盟《人工智慧法案》（EU AI Act）採用以「風險為本（Risk-based approach）」的層級架構，智慧型機器人與自駕系統因直接涉及實體生命安全與產品安全安全組件（Safety Components），在法案中受到非常明確且嚴格的規範。
1. 風險分級與涵蓋情境
智慧型機器人與自駕系統主要被歸類在「高風險（High Risk）」與「不可接受風險（Unacceptable Risk，即禁止使用）」兩個層級：
| 風險等級 | 相關智慧機器人 / 自駕系統情境 | 法規立場與處置 |
| 不可接受風險 (Unacceptable Risk) | • 在公共場所進行即時遠程生物辨識（如警察用移動式機器人/無人機隨機掃臉） • 利用演算法進行情緒識別用於職場或學校（如監控員工/學生專注度） • 透過隱蔽技術操控人類行為造成實體或心理傷害的機器人 | 全面禁止 違者面臨最高 3,500 萬歐元或全球年營業額 7% 的高額罰款。 |
| 高風險 (High Risk) | ① 產品安全組件（Article 6(1) / Annex I）： • 自駕車 / 自動駕駛系統（Autonomous Vehicles） • 醫療手術與輔助機器人（Medical Devices） • 工業/機械安全組件（Machinery Directive 覆蓋之機器人） • 載人與物流無人機（Aviation Safety） ② 關鍵基礎設施與特定應用（Annex III）： • 用於道路交通管理或能源/水力設施監控的自主機器人 | 嚴格監管 需通過事前符合性評估（Conformity Assessment）、取得 CE 認證後方可上市。 |
| 有限風險 (Limited Risk) | • 服務型/陪伴型機器人（具備聊天互動或生成式 AI 功能） | 透明度義務 必須明確告知使用者「您正在與 AI/機器人互動」，並標示 AI 生成內容。 |
2. 對智慧機器人與自駕系統的「高風險」具體規範
若機器人或自駕系統被歸類為高風險，開發者與部署者必須滿足以下 7 大核心合規要求：
- 風險管理系統（Risk Management System）： 必須在產品的全生命週期中建立連續的風險評估，特別是實體碰撞、系統失效、環境干擾等物理安全風險。
- 高品質數據治理（Data Governance）： 訓練自動駕駛或機械控制演算法的數據集，必須具備代表性、無偏見、且符合高度準確性（例如：自駕車需涵蓋各種極端天氣與複雜路況數據）。
- 技術文件與紀錄留存（Logging & Traceability）： 系統必須具備自動記錄運作日誌（Logs）的功能，包含傳感器數據與決策軌跡，以便在發生事故時進行黑盒子式的事件重現與責任歸屬調查。
- 透明度與對使用者的指示（Transparency）： 提供明確的操作手冊，標明機器人的運作極限（如：自駕系統的適用路段或天候條件）。
- 真人監督（Human Oversight / Human-in-the-loop）： 系統介面必須設計「煞停」或「人工接管」機制（如自駕車的強制手動接管、工業機器人的緊急停止按鈕），確保人類隨時能干預或中斷 AI 的決策。
- 準確性、健壯性與資安防護（Cybersecurity & Robustness）： 機器人與自駕系統必須具備抵禦惡意網路攻擊（如 Sensor Spoofing 感測器欺騙、演算法對抗攻擊）的能力，防止車輛或機器人被遠端控制造成實體危險。
- 符合性評估與 CE 標章（Conformity Assessment）： 在上市前必須通過嚴格的第三方機構審查（或符合指定產品安全法規），並貼上 CE 標章。
3. 與新版歐盟《機械指令》及《產品責任指令》的交織
值得注意的是，歐盟 AI 法案並非孤立運作。針對智慧機器人與自駕系統，歐盟採取的是雙軌融合架構：
- 機械法規（Machinery Regulation (EU) 2023/1230）： 規範機器人的實體硬體與機械安全。
- EU AI Act： 規範賦予機器人自主決策能力的軟體與演算法安全。
- 產品責任指令修訂（Product Liability Directive）： 明確將「軟體與 AI 系統」納入產品範疇，若智慧機器人因 AI 演算法缺陷導致損害，採用無過失責任或舉證責任倒置，讓受害者更容易向製造商求償。