本文目錄
一、 AIMS 獨立治理核心:徹底揚棄傳統資安舊思維
導入 ISO/IEC 42001:2023 人工智慧管理系統(AIMS),企業最常犯的致命錯誤便是「直接套用 ISO 27001 的資訊資產清冊與 CIA(機密性、完整性、可用性)評估邏輯」。AI 系統具備動態學習、黑盒子運算、資料依賴與演算法偏見等特有屬性,傳統資安框架完全無法抵禦針對「模型漂移」或「自動化決策不透明」的稽核挑戰。
AIMS 的建置必須回歸 AI 本質,組織必須建立專屬之 AI 系統與元件清冊,並依據標準框架強制鑑別系統邊界。同時,依據最新 ISO 聯合決議,AI 模型訓練與推論之高耗能特性,必須強制將「氣候變遷與環境衝擊」納入 AIMS 營運持續性評估。ISO/IEC 42001 採用與 ISO 27001、ISO 9001 相同之高階結構(HLS),Clause 4 至 Clause 10 為可稽核之管理系統要求,Annex A 為規範性控制措施,Annex B 為控制措施之實施指南,Annex C 為 AI 風險來源參考,Annex D 為跨管理系統整合指引。
二、 Annex A 控制措施架構總覽
ISO 42001 之 Annex A 包含九大控制域、38 項控制措施,涵蓋 AI 治理、資源、影響評估、生命週期、資料、利害關係人資訊、使用及第三方關係等面向。組織在設計控制措施時應強制引用 Annex B 實施指南。
| 控制域 | 名稱 | 核心內容與防護焦點 |
|---|---|---|
| A.2 | AI 相關政策 | AI 政策制定、與其他組織政策(如資安、隱私)之對齊 |
| A.3 | 內部組織 | AI 角色與責任、職責劃分、疑慮與爭議報告機制 |
| A.4 | AI 系統資源 | 訓練資料、開發工具、運算資源(含耗能評估)、人力專業素養 |
| A.5 | AI 系統影響評估 | AI 系統對個人權利、社會公平、環境永續之衝擊評估 (AIA) |
| A.6 | AI 系統生命週期 | 需求設計、開發、測試、部署、監控(漂移偵測)、事件日誌 |
| A.7 | AI 系統資料 | 資料集獲取、資料品質與清理、來源溯源 (Provenance)、資料治理 |
| A.8 | 利害關係人資訊 | 對使用者、受影響群體之透明度宣告與溝通 (如:AI SBOM、系統卡) |
| A.9 | AI 系統使用 | 負責任使用、人工監督 (Human-in-the-loop)、使用限制 |
| A.10 | 第三方與供應商 | 供應商評鑑、責任分配協議、合約與服務條款 (ToS) 管理 |
三、 精準界定 AI 角色與 Annex A 控制排除基準
在決定控制措施適用性聲明(SoA)之前,組織必須強制鑑別自身於 AI 生態系中之角色(依據 ISO/IEC 22989)。此角色界定將直接決定 Annex A 控制措施之合法排除理由,不容任何模糊空間。角色並非互斥,組織應「逐系統」鑑別角色,而非以組織整體為單位。
| 角色鑑別 | 稽核定義與系統邊界 | 控制措施適用範圍與排除邏輯(SoA 防禦) | 具體佐證表單/紀錄名稱 |
|---|---|---|---|
| 生產者 (Producer) |
設計、開發與訓練 AI 模型底層架構(如:自行訓練 LLM 或機器學習模型)。 | 需負擔最高 AIMS 責任,無法排除任何系統開發(A.6)、資料集品質管控(A.7)及演算法透明度(A.8)相關控制。 | 演算法訓練與資料集檢核表模型效能與偏差驗證報告AI SBOM (系統物料清單) |
| 提供者 (Provider) |
整合、部署 AI 模型並提供應用服務(如:串接 OpenAI API 開發內部或商用應用程式)。 | 可部分排除底層模型訓練之控制,但須針對供應商風險管理(A.10)與系統介接安全負完全責任。 | AI 服務提供與介接授權書第三方模型供應商合規評鑑表A.10 供應商責任分配協議 |
| 使用者 (User) |
僅取得並操作他人建置之 AI 工具進行業務(如:員工使用 ChatGPT 輔助文案開發)。 | 可合法排除 Annex A 中涉及系統生產(A.6 研發階段)之控制。核心著眼於輸入資料防護、輸出驗證與人員使用限制。 | 員工 AI 工具安全使用程序書AI 輔助決策人工覆核檢核表AI 使用規範 |
💡 顧問實務引導 在撰寫適用性聲明書(SoA)時,排除理由需引用標準條文並經風險評估支持。若組織角色僅為「使用者」,應明確宣告:「依據 Clause 4.1 組織情境分析與 Clause 4.3 AIMS 範圍界定結果,本組織於該 AI 系統中僅為 User 角色,未涉及 AI 系統研發與模型訓練,故排除 A.6.X(系統設計與開發)及 A.7.X(訓練資料集管控)之控制措施。」此為封堵稽核員追問系統底層機制的標準防禦做法。
四、 AIMS 主條文落實與 Annex 跨維度應用矩陣
| 條文/附錄對應 | 管制重點與稽核防禦 | 負責職稱 | 具體佐證表單/紀錄名稱 |
|---|---|---|---|
| Clause 4 組織環境 |
氣候變遷與利害關係人衝擊。強制將「氣候變遷與碳排放」列為外部議題,評估 AI 運算之環保衝擊。同時鑑別 AI 開發或使用對社會、客戶、員工之潛在影響。 | 總經理室/ 法務長 |
組織全景與氣候變遷衝擊鑑別表AI 利害關係人需求與期望矩陣 |
| Clause 5 領導作用 |
AI 治理架構建立。嚴禁將治理權責推卸給純 IT 單位。最高管理者須正式指派「AI 治理負責人」,確保系統符合倫理與法規。對應 A.3.2(AI 角色與責任)。 | 總經理/ AI 治理負責人 |
人工智慧管理政策聲明書AI 治理委員會組織職掌表 |
| Clause 6.1.4 & A.5.2 AI 系統衝擊評估 |
AIA 衝擊評估先行。從「當事人權利與自由」視角鑑別 AI 對個人、社會之影響(含公平、倫理、透明度、環境影響)。AIIA 必須在 AI 生命週期初期完成,其產出的「衝擊值(P 值)」將強制帶入 6.1.2。 | AI 治理負責人/ 法務長 |
AI 系統衝擊評估報告 (AIIA)利害關係人與權利分析表 |
| Clause 6.1.2 & Annex C AI 風險評鑑 |
AI 專屬風險繼承邏輯。承接 AIIA 衝擊值,依據 Annex C 鑑別 AI 專屬風險(偏見與歧視、幻覺/虛構、模型漂移、對抗性攻擊、資料污染)。風險評鑑與衝擊評估為兩道獨立但繼承之防線,絕對禁用 CIA 矩陣。 | 資料科學家/ 資安長 |
AI 系統專屬風險與機會評估表Annex C 風險對應登錄冊 |
| Clause 7 & Annex A.7 支援與資料資源 |
AI 素養與資料溯源。確保人員具備防範幻覺與偏見的認知。對應 A.7.3(資料出處/溯源),嚴格管控訓練或微調資料來源之合法性及智財權合規性。 | 人資部經理/ 系統架構師 |
AI 認知與倫理規範訓練紀錄訓練資料集合法性與品質聲明 |
| Clause 8.1 & Annex A.6 營運規劃與生命週期 |
控制落地與自動化決策介入。以 Annex A.6 為框架,引用 Annex B 指南。針對系統之自動化決策,強制明定異議權與人工介入機制。涵蓋 A.6.6(系統運作與監控) 及 A.6.7(事件日誌)。 | 專案經理/ 系統工程師 |
演算法偏見與幻覺測試紀錄表AI 自動化決策衝擊與人工審查單 |
| Clause 8.1 & Annex A.8 透明度與溝通 |
AI SBOM 系統清冊建立。為符合 A.8.2(外部報告) 及歐盟 AI Act 精神,強制建立 AI SBOM。記錄模型框架、預訓練模型來源、訓練資料集與授權限制。 | 系統架構師/ 法務長 |
AI 系統與元件物料清冊 (AI SBOM)AI 系統卡 (Fact Sheet) |
| Annex D 跨系統整合 |
防堵隱私與資安漏洞。依據 Annex D 與 ISMS/PIMS 整合。核心查核點:個人資料投入模型推論前之「去識別化作業」、系統快取之「暫存檔生命週期管理」與最終之「環保銷毀責任」。 | 資安長/ 個資保護長 |
AIMS/ISMS/PIMS 跨系統整合矩陣AI 訓練資料去識別化與銷毀紀錄 |
| Clause 9 & 10 績效評估與改善 |
模型漂移 (Model Drift) 監控與根因分析。對應 A.6.6(系統監控)。漂移偵測必須視為正式控制,定義閾值與升級路徑。發生幻覺或倫理事件時,必須運用 5 Why 探究演算法或資料集之根因。 | AI 治理負責人/ 稽核組長 |
AI 系統效能與偏差監控月報AI 異常事件矯正與預防處理單 |
五、 AIA 衝擊評估方法論補充
ISO 42001 要求組織評估 AI 系統對個人、社會及環境之影響,並將結果文件化。AIA 衝擊評估與 Clause 6.1.2 之風險評鑑為兩個獨立但互補的流程。
- AIA 衝擊評估(Clause 6.1.4 / A.5.2):聚焦於「AI 系統對利害關係人之衝擊」,評估對象為個人、群體及社會,輸出為利害關係人與權利分析。
- AI 風險評鑑(Clause 6.1.2):聚焦於「風險對組織目標之影響」,適用於所有 AI 系統,輸出為風險登記冊與風險評分。
AIA 之輸出(衝擊值及特定風險清單)必須作為風險評鑑之輸入,風險評鑑之輸出則驅動 Annex A 控制措施之選擇。衝擊值(P 值)之量化應考量「自動化決策程度」與「受影響群體範圍」兩個維度,並依據 Annex C 將 P 值對應至偏見、幻覺、透明度等特定風險類型。
六、 AI SBOM 與供應鏈治理
AI SBOM(AI System Bill of Materials) 是 AI 系統透明度與說明可能性之核心手段,精準對應 Clause 8.1(營運規劃與管制)、Annex A.8(利害關係人資訊) 及 Annex A.7.3(資料溯源) 之要求。AI SBOM 應記錄 AI 系統所構成之所有元素及其來源、授權,涵蓋:
- AI 框架與函式庫:名稱、版本、授權、PURL、雜湊值。
- 預訓練模型:名稱、版本、授權、主要用途(推論/訓練/微調)、基礎模型。
- 訓練資料集:名稱、版本、授權、資料收集流程、已知偏見。
- Fact Sheet(AI 系統卡):偏見資訊、限制事項、預期用途、非預期用途。
供應鏈治理對應 A.10(第三方與供應商) 控制域。A.10.2 要求分配生命週期責任;A.10.3 要求確保供應商符合負責任 AI 承諾。若組織作為 Provider,其上游模型供應商可能為 Producer,則須建立嚴格的 AI 供應鏈合規評鑑機制。
七、 常見稽核缺失與反制策略(Audit Defense)
💡 顧問實務引導 建構 ISO 42001 不是一場文件作文比賽,而是一場嚴密的邏輯防禦戰。稽核員的攻擊火力將全數集中在「黑盒子效應」與「決策失控」。無法量化系統衝擊、無法解釋模型行為,就是 AIMS 的死穴。
- 缺失情境一:風險評估套用舊版資安 CIA 矩陣(Clause 6.1.2)
- 稽核員攻擊點:組織直接拿現有的資訊資產清冊,對 AI 系統進行機密性、完整性評估,完全忽略演算法不公平性與幻覺造成的營運或社會衝擊。
- 反制與建構策略:廢棄 CIA 作法。導入 AIA 流程,先針對「自動化決策程度、受影響群體範圍」算出衝擊值。接著將衝擊值帶入風險矩陣,強制依據 Annex C 查核清單列出「偏見、透明度不足、系統漂移」的特定風險並給予處置。
- 缺失情境二:無法證明演算法之透明度與人工介入(Annex A/B)
- 稽核員攻擊點:企業導入 AI 進行員工績效評分或貸款審核,當事人提出異議時,負責單位無法解釋 AI 給出該分數的邏輯,且無人工推翻決策之機制。
- 反制與建構策略:依據 Annex B 的實施指南,在系統設計階段導入「可解釋性 AI(XAI)」。於使用規範中強制規定:涉及重大權益之 AI 決策,必須開啟「人工覆核(Human-in-the-loop)」,並向稽核員展示
AI 自動化決策衝擊與人工審查單作為合規鐵證。
- 缺失情境三:未建立 AI 系統清冊與 AI SBOM (Clause 8.1 & A.8)
- 稽核員攻擊點:組織無法提供完整之 AI 系統清冊,或清冊未包含模型來源、版本、訓練資料集、部署環境等關鍵資訊,違反透明度義務。
- 反制與建構策略:依據 Clause 8.1 營運管制要求,建立
AI SBOM。涵蓋框架、預訓練模型授權、微調資料來源與已知偏見。此清冊必須與風險登記冊強制連結,確保即時更新。
- 缺失情境四:未鑑別供應鏈與跨系統之 AI 風險(Annex D)
- 稽核員攻擊點:將含有客戶隱私的機敏資料透過 API 傳送至外部生成式 AI 模型進行摘要,未評估該模型供應商是否會將輸入資料作為二次訓練之用。
- 反制與建構策略:啟動 Annex D 的跨系統防禦。強制要求所有 API 介接前,必須由法務與資安審核服務條款(ToS),確保供應商宣告「不保留、不使用 API 數據進行模型訓練」,並於 PIMS 框架下落實資料去識別化與傳輸加密。
八、ISO 42001輔導導入與實務流程
- Phase 1:角色鑑別與 AI 元件盤點(Role & Inventory) 拋棄傳統資產清冊,建立專屬的「AI 系統與元件清冊」。逐系統鑑別組織於各項 AI 應用中屬於生產者、提供者還是使用者。角色鑑別結果須反映於 Clause 4.3 範圍聲明中。同步建立 AI SBOM,記錄每一 AI 系統之框架、模型、資料集與授權來源。
- Phase 2:AIA 衝擊評估與特定風險定值(AIA & Risk Treatment) 建立「先定衝擊值,再論風險」之繼承邏輯。對每個 AI 系統進行 AIA 衝擊量化,隨後對接 Annex C,強制鑑別偏見、幻覺、透明度等特有風險。將 AIA 方法論文件化,並將 Annex A 適用之控制措施納入 SoA,排除條款須引用標準條文並經風險評估支持。
- Phase 3:Annex 雙軌防護與整合(Control Implementation) 以 Annex A 為框架,強制引用 Annex B 之細部指南撰寫 AIMS 專屬文件(含自動化決策審查、模型漂移監測)。同步檢視 Annex D,對接既有之 ISMS 與 PIMS,防堵資料介接漏洞。針對 A.6.6(AI 系統監控),建立監控指標、閾值與升級路徑。
- Phase 4:實機演練與防禦陪同(Audit & Defense) 執行非傳統內稽之「AI 治理深度查核」,模擬外部稽核對於黑盒子決策與偏見測試紀錄之挑戰。增加「模型漂移監控演練」及「AI 事件應變演練」,模擬模型行為偏移或幻覺發生時之通報與矯正流程。顧問全程陪同第三方驗證,確保組織的 SoA 排除邏輯與 AIA 風險論述無懈可擊,強勢取得 AIMS 證書。