NIST AI Risk Management Framework(RMF) 系列文章 - 什麼是 Risk?
這些年,AI 的蓬勃發展和誘人的可能性,早已讓組織一股腦地投入 AI 相關應用與探索,以便提升自身的競爭力。不過隨著技術漸漸落地,應該也不難發現 AI 所帶來的不確定性。比方說,即便發送相同問題的請求,AI 也無法保證次次給出相同或預期的結果,而且這還不討論近幾年大語言模型的幻覺現象。因此,想要從 AI 獲得好處,我們需要思考的是如何管控這些不確定性,並且做出合理的權衡決策。 NIST AI RMF 便是用來協助組織管理 AI 所帶來的風險與影響,讓組織能在控制潛在危害的同時,真正取得 AI 所帶來的效益。 想要了解這個工具,首先得先來聊聊 Risk 在風險管理情境下的概念。在日常情境下,聽到 Risk 這個字多半會先想到負面的事件。不過在風險管理的角度上來看,Risk 卻有更為寬廣的定義。 ISO 31000 定義 Risk2 為不確定性對既定目標所產生的影響(effect of uncertainty on objectives)
繼續閱讀


