風險管理就是管理風險，聽起來好像很直觀，但具體來說要做哪些事情呢？是對風險進行評估？是來一場審查？是進行一次稽核？或者進行某種測試？感覺聽起來沒問題，但感覺好像又漏了些什麼！

NIST AI RMF 再一次沿用了 ISO 31000:2018 對於風險管理的定義：

組織為了針對風險進行方向引導與控制，而有系統地協調各項管理活動

簡單說，風險管理並不是進行某一種單一行動，而是協調多種管理活動，讓組織在面對風險時能夠建立一致的方向、做出適當的判斷，並採取相應的控制措施。 因此，風險評估、審查、稽核或測試都可能是風險管理的一部分，但單獨進行其中任何一項，都不能代表完整的風險管理。在後續的文章中，我們會逐步地去瞭解 NIST AI RMF 在風險管理上所主張的相關活動與舉措，但在進一步了解這些方法前，最重要的是有正確的 mindset，因為這樣才能讓自己在規劃與執行風險管理時仍持續地保持謹慎並且尋求更好的做法，而建構 mindset 的最好方法，不外乎就是了解風險管理的棘手挑戰。NIST AI RMF 在這裡進一步提出了四個 AI 風險管理需要面對的重要課題：

  1. 風險衡量

組織的資源永遠都是有限的。為了能夠正確地將資源投到關鍵的風險，對風險進行衡量是相當重要的舉措。在面對尚無有效衡量方式或尚未進行衡量的風險時，很難憑藉直觀方式來判定是否需要投入資源，畢竟未能被衡量的風險，既不能假定是高風險也無法認為不能衡量就是低風險，而這也是規範裡開宗明義所指出的一個要點。

常見的風險衡量方式多半會設計一些評估條件並且透過風險矩陣來進行。不過聽起來貌似簡單，但面對 AI 應用，NIST 針對衡量又提出了七類的挑戰：

  1. 來自第三方軟硬體與資料的風險
    使用外部模型、資料或元件時，各方採用的風險指標、方法與透明程度可能不同，因此增加整體風險評估的難度。
  2. 新興風險追蹤
    AI 在使用與演進過程中可能出現原本沒有預期到的新風險，因此需要持續辨識、追蹤並發展相應的量測方式。
  3. 可靠指標的可用性
    目前對許多 AI 風險與可信賴特性的量測方式仍缺乏成熟共識，而且單一指標可能過度簡化問題，甚至忽略不同群體與情境的差異。
  4. AI 生命週期不同階段的風險
    相同 AI 系統在開發、部署與實際使用等不同階段，可能呈現完全不同的風險，而且不同角色看到的風險也可能不同。
  5. 真實環境中的風險
    實驗室或受控環境中的測試結果，不一定能完整反映 AI 部署到真實世界後所面對的風險。
  6. AI 系統的難以理解與檢視
    AI 系統可能因模型本身不透明、缺乏說明與文件，或具有內在不確定性，使得我們難以理解風險究竟從何而來，也更難量測。
  7. 比較基線的建立
    當 AI 用來輔助或取代人的工作時，需要某種「人類表現」作為比較基準，但 AI 與人往往使用不同方式完成工作，因此很難建立一致且公平的比較標準。
  1. 風險容忍度

以 AI RMF 的語境來看，Risk Tolerance 指的是組織或 AI 生命週期參與者，為了達成既定目標而願意承擔風險的程度1。由於準備程度可能受到整體應用情境、特殊案例、法規、組織政策、組織優先序和可用資源等多種因素的影響，且又會隨著時間產生變化，所以當進行風險衡量時，組織需要針對業務的外部條件(e.g. 法規)和內部狀況來定義自身的風險容忍度，而這並非有任何文件可以給出一個明確值，也並非 NIST AI RMF 有明確規範的，但它卻是進行風險管理前必須先進行明確探討與定義的要件。

  1. 風險排序

任何事情都有緩急輕重，而風險也不例外。畢竟資源有限，風險卻會隨著時間、目標與實際應用情境而有所變化，因此，如何在商業利益與風險處置之間取得平衡，重點就在於對風險進行適當排序，以便將有限的資源優先投入更重要的風險。

更重要的是，風險管理並不是要把所有負面風險全部消除。在現實環境中，不可能完全避免所有事件與失敗，如果抱持著「所有風險都必須清零」的期待，反而可能把有限的人力、預算與時間耗費在低優先度的問題上，讓真正重要的風險得不到足夠的處理。

此外，AI 應用也可能因為部署情境、客製化方式或後續調整而產生不同程度的風險，因此風險排序不能脫離實際使用情境來看，也不能只依據是否會直接與人互動來判斷風險高低。比方說，一個專門處理機敏資料的 AI 應用，即便不會直接與人互動，也可能因為資料本身的敏感程度而具有相當高的風險。反過來說，即使不涉及機敏資料，如果 AI 的產出會直接影響其他重要系統的判斷或後續流程，其風險也未必比較低。

即便風險已經完成排序，也採取了相對應的控制或處置措施，風險仍然很可能無法完全消除。這類在風險處置之後仍然存在的風險，稱為 Residual Risk（殘餘風險）。

殘餘風險的存在再次提醒我們，風險管理追求的並不是「零風險」，而是在有限資源與實際目標之間持續做出合理判斷。組織除了需要決定哪些風險應該優先處理，也必須進一步確認處置後剩餘的風險是否仍在可以接受的範圍之內。若殘餘風險依然過高，就代表目前的控制措施可能還不足夠，需要進一步降低風險、調整使用方式，甚至重新思考是否適合繼續採用該 AI 應用。

  1. 將 AI Risk 整合到組織風險管理

雖然由於 AI 的特殊性使得我們必須額外地去思考此類應用的風險管理，但並不應該把 AI 的風險管理當成另一套獨立於組織風險管理制度外的新制度，而是應該納入組織原本的企業風險管理與治理流程之中。這也代表 AI 風險的責任、資訊與決策需要能跨部門流動，讓管理階層在做商業與技術決策時，可以把 AI 風險和其他風險一起考量。NIST AI RMF 後續的 GOVERN、MAP、MEASURE、MANAGE 四個 Function，其實就是把這種整合落實到實際管理活動中。

說到底，AI RMF 能提供的是一套風險管理的框架，但真正讓它發揮作用的，仍然是組織本身。清楚的責任機制、角色分工、組織文化與誘因結構，都需要組織自行建立與維護，而有效的 AI 風險管理也離不開高階管理層的支持，甚至可能伴隨一定程度的文化改變。

不同規模的組織自然也會面臨不同限制，因此 AI RMF 並不是要求所有組織採取完全相同的做法，而是提供一套共同的方向，讓組織能依照自己的能力、資源與情境，逐步建立適合自己的 AI 風險管理能力。

1. NIST AI RMF 採用了 ISO Guide 73 對 Risk Tolerance 的定義。該文件目前已由 ISO 31073:2022 取代，但 Risk Tolerance 的定義並未改變。


如果你也正在思考如何在組織內的資訊系統與流程內追尋持續改善，那麼 CPHT 的豐富經驗和能力將會是你最好的選擇！ 👉 了解更多: https://www.cpht.pro