AI風險治理五大關鍵
- 發佈日期：
近期隨著人工智慧技術發展日趨成熟
企業對發展人工智慧已開始實際應用
根據Deloitte人工智慧研究院「企業人工智慧應用現狀分析報告」調查顯示：
※ 94%的受訪企業領導者表示人工智慧在未來五年內對其企業成功至關重要
※ 50%的受訪者提出人工智慧相關風險管理是企業擴大人工智慧專案規模的最大障礙之一
※ 33%的受訪者將人工智慧風險管理納入企業整體風險管理範疇
雖然人工智慧領域正在快速發展，但它仍然處於萌芽階段，存在著許多風險，其中包括信任侵蝕、偏見和歧視、數位科技風險以及資料保護議題。由於人工智慧的複雜性和自主性愈來愈高，存在著似是而非的結果、刻意偽造和不確定性等問題，若無法有效解釋其內容，將破壞客戶對使用人工智慧的信任。
此外，缺乏防護和監控措施可能導致人工智慧產生歧視或偏見結果；同時，人工智慧需要依賴大量數據來完成任務，若沒有建立有效的數位科技安全和資料保護機制，可能面臨模型開發安全性和資料外洩等問題。這些是企業需要重點關注和解決的問題。
引入人工智慧技術應用時，建議企業應同步建立全面的人工智慧風險治理框架，並制定相應的政策和程序，以確保有效管理和監控相關活動，包括確定治理目標和原則、明定權責及政策、訂定人工智慧風險評估策略、明定模型生命周期要求及設置相對應監測及檢測機制，主要關鍵要素說明如下：
一、建立人工智慧治理框架
企業應制定一個全面的人工智慧治理框架及相對應的管理政策及規範，其中包括明確的可信任人工智慧原則（如透明性和問責性、公平性、穩健性、隱私保護和資料安全），建立資料治理機制以確保資料品質和準確性，建立模型測試和驗證機制及定期評估和改進治理框架有效性。
二、影響衝擊評估和風險分析
收集企業內部相關的人工智慧案例，並以風險為導向進行管理原則之設計，透過識別風險、風險分類分級、對高風險人工智慧應用場景進行控管措施規劃。
三、遵從可信任人工智慧原則
在發展人工智慧應用系統和模型時，採取相關開發、測試和評估方式，以確保其符合人工智慧可信任原則。
四、監控和持續改進
企業應建立監控機制，定期監測人工智慧系統的運行情況，並及時識別和應對潛在的問題和風險。
五、查核機制
建立查核程序，透過制定具體的查核標準和指標，評估人工智慧應用系統的合規性。
