從AI管理制度看AI的自律與他律

• 觀看人數: 1225
• 2025-10-09

主　題：從AI管理制度看AI的自律與他律

型　式：線上座談會

子題１：從歐盟人工智慧法案到AI管理制度ISO 42001

與談人：李祖康｜KPMG安侯企管金融行業顧問服務 副總經理

子題２：AI的自律與他律

與談人：王偉霖｜中國文化大學法律學系 教授

針對人工智慧（AI）的快速發展及其伴隨的巨大風險，全球正在建立一套由「他律」法規與「自律」標準構成的管理制度。在「他律」層面，歐盟人工智慧法案（EU AI Act）是全球首部針對AI的綜合性法規，其核心採用風險分級管理模式，將AI應用依據潛在危害分為不可接受、高、有限與最低風險四級。其中，金融領域的信用評分、風險管理等系統被列為高風險AI，必須遵循最嚴格的合規義務，包括建立完善的數據治理、確保模型具備高準確性與可解釋性、進行人類監督，並詳細記錄活動日誌。面對這類嚴苛的法律要求，ISO/IEC 42001人工智慧管理系統（AIMS）則提供了實踐「自律」的國際標準化工具。ISO 42001是一套可稽核的管理框架，旨在幫助組織將AI治理與道德原則（如公平性、透明性和問責機制）系統性地整合到AI的整個生命週期中，從開發、部署到監控。因此，ISO 42001不僅是企業展示其負責任AI實踐的證明，更是協助企業將歐盟AI法案等抽象法規要求，轉化為具體、可執行且可持續改進的內部管理流程，確保AI在合規、穩健的基礎上實現創新價值。

文化大學法律系王偉霖教授聚焦於人工智慧（AI）的管理制度，探討如何透過自律與他律來應對AI帶來的潛在風險。AI的應用風險涵蓋資安危機（如機密資料外流、惡意程式生成）、著作權侵權疑慮（AI生成作品的歸屬問題）、以及假訊息與歧視性內容的散佈。此外，AI的「黑盒子」特性，即難以解釋其決策過程，導致問責機制面臨挑戰，例如英國郵政局冤案凸顯了人類對程式的過度依賴可能帶來極大風險。為此，台灣金管會已公告「金融業運用人工智慧(AI)指引」，確立六大核心原則作為AI自律的基礎，包括治理與問責機制、公平性、透明性與可解釋性等，目的在於維持健康的模型與創建可信任的資料。在AI他律方面，簡報以歐盟人工智慧法（EU AI Act）為例，該法採風險分級管理，將AI系統依風險高低分為不可接受、高、有限與最低風險，並針對高風險AI（如金融業的信用評分）施加最嚴格的合規義務，涵蓋數據治理、文件紀錄、透明度、人類監督及準確性等要求。總結來說，金融機構必須在AI創新和AI治理之間取得平衡，將風險評估與合規流程融入AI生命週期，才能確保在利用AI強大潛力的同時，維護金融穩定與消費者權益。