第十一集：AI 風險管理（一）（L21203）
嗨，大家好，我是你的 iPAS 陪跑師 Stan，歡迎來到這次的解說。今天我們要一起搞定 L21203，也就是 AI 風險管理的第一部分。身為你的考前學習夥伴，我的任務很簡單啦，就是帶大家把觀念理清楚。讓我們直接進入今天的重點任務：幫大家一次弄懂 AI 在技術層、組織人力、法規合規，還有模型偏見跟倫理框架上到底有哪些風險。準備好了嗎？我們這就開始囉。
不過在正式開始之前，我要先嚴肅的提醒大家一件事，打破一個超級多考生會踩的雷，說真的，這絕對是個巨大的考試陷阱。很多人心裡會想：只要我的 AI 模型預測夠準，就代表沒有風險了吧？錯，大錯特錯！模型準不準，絕對不是 AI 風險的全部喔。
你想想，如果一個預測百分之百準的模型，背後卻是偷偷用了沒有經過授權的個資，或者它的判斷充滿了偏見跟歧視，那它上線後絕對會是一場災難。所以拜託大家，現在立刻把「高準確率等於零風險」這個錯誤觀念，從你的腦海裡徹底刪掉。
好，來看一下我們今天的衝刺藍圖，這也是各位在考場上應該要有的思考架構。我們會依序來看：一、全生命週期治理；二、技術層風險；三、組織與人力風險；四、法規與個資法 PDPA；五、偏見與倫理。最後第六部分，我會幫大家整理必備的關鍵字。
好，馬上進入第一部分，全生命週期治理。這就是 AI 風險管理的宏觀視角。所謂的全生命週期治理，用最白話的方式來說，就是 AI 的風險管理是一個持續不斷的過程，絕對不是說你在系統上線前把檢查表打個勾就沒事了。你看，它涵蓋的範圍超廣，包含了資料、模型、技術、組織、人力、法規、倫理，甚至是後續的營運。從你一開始蒐集資料的那一秒鐘起，一直到模型開發、部署，還有上線之後的每一天日常營運，每一個環節都需要好好治理。
所以，考試的時候，如果看到選項寫什麼「上線前的一次性檢查」，請你毫不猶豫直接把它刪掉。
接著，我們來看第二部分，技術層風險。這裡要說的可不僅僅是寫錯程式這麼簡單喔。這邊我們不鑽牛角尖，專注在基礎概念就好。
技術層面的第一個大魔王，叫做模型不可解釋性。一句話解釋，這就是我們常聽到的「黑箱作業」。也就是說，模型雖然丟出了一個答案，但根本沒有人知道它是怎麼算出來的。這為什麼是個大風險呢？大家想像一下，如果今天一個醫療 AI 判定你需要立刻動手術，但它卻沒辦法告訴醫生為什麼，你敢躺上手術台嗎？絕對不敢吧。所以關鍵就在於，當一個模型沒有辦法解釋它的輸出結果時，你就會立刻失去使用者，甚至是監管機關的信任。這在實務上可是大忌啊。
另外一個超級常考的技術風險，叫做飄移。簡單來講，就是一個昨天表現明明還很完美的模型，到了今天卻突然錯得離譜。為什麼？因為它所處的真實世界已經變了。舉個例子，像是疫情爆發前跟爆發後的消費者購買行為，根本就完全不一樣，對吧？像這種因為外在環境變化，導致模型原本的預測失效，我們就把它稱為資料飄移，或者是概念飄移。
接下來是第三部分，組織與人力風險。我們把焦點從程式碼轉移到人身上，這可是人為失誤的巨大陷阱喔。
在組織內部看風險的時候，個人 AI 能力不足大家應該都很好理解，就是員工還不懂得怎麼用 AI 嘛。但請注意，在考試裡面，往往更致命的系統性風險是跨部門協作不良。如果說你們家的資料科學家、法務人員還有產品經理之間的角色不清不楚，中間存在很大的流程落差，那我敢保證，開發出來的 AI 絕對會踩到合規的地雷。所以呢，組織治理最大的重點，就在於要打通部門之間的孤島，建立起非常清晰的角色跟責任。
好，第四部分，法規合規與個資法 PDPA。這裡絕對是考試的超級熱區。
面對個人資料，我們真的必須要極度謹慎。個人資料保護法，也就是 PDPA 的核心目的，就是為了要保護我們的人格權，同時促進資料的合理利用。大家一定要記住一個鐵則：只要你的 AI 專案有碰到個人的任何一點資料，合規跟資料保護絕對是第一優先，這是完全沒有妥協空間的。
那具體要怎麼做呢？這是個資法裡非常關鍵的「事前告知義務」清單。你在蒐集資料之前，必須先向當事人說明這六大項目：包含你是誰、蒐集目的、資料類別、利用的詳細情況、當事人權利，還有如果不提供資料會有什麼影響。
在這邊陪跑師要教大家避開一個超常見的考試陷阱：有些題目會故意寫「所有情況一律必須取得當事人的明確同意」，這是錯的喔！到底需不需要取得明確同意，其實要看具體的法定要件來判斷，不能一竿子打翻一船人。不過「事前告知」這個動作，絕對是非常明確的義務，一定要做到。
接著進入第五部分，偏見與倫理框架，我們來看看 AI 對社會造成的衝擊。
你想喔，如果我們餵給 AI 的資料本身就已經帶有偏見了，那麼訓練出來的模型，當然就很有可能產出對某些弱勢或少數族群不公平的結果。這就是為什麼我們說，一個完善的 AI 倫理框架一定必須要包含這五大要素：公平性、透明性、可解釋性、責任歸屬，還有最重要的人類監督。沒錯，AI 是不能完全自治的，最終的責任歸屬跟最後一道防線的把關，永遠都必須回到我們人類身上。
好啦，理論講的差不多了，現在我要來考考大家抓關鍵字的能力囉。準備迎接我們的第一次隨堂測驗。題目是：一家公司使用了用戶的健康數據來訓練模型，卻沒有在條款中說明這些數據會被用來做什麼，請問這觸發了哪一種風險？
大家仔細想一下剛剛講過的線索喔。3、2、1，時間到。來，跟著 Stan 一起拆解。步驟 1，我們眼睛很利，馬上抓出「沒有說明用途」這個關鍵字。步驟 2，這句話馬上讓我們的雷達狂響，因為這明顯違反了我們剛剛才講過的個資法事前告知義務裡面的「蒐集目的」，對吧？所以步驟 3，毫無疑問，這就是一個非常典型的法規與合規風險。考試的時候，只要看到「未經授權」或者是「沒有事前告知」的狀況，不用懷疑，直接往法規層面去判斷就對了。
答得好，那我們緊接著來看第二題。這一題我們要聚焦在這一集最容易讓人搞混的技術觀念上。題目是：某個推薦模型剛上線的時候準確率高達 95%，但半年之後，在完全沒有修改任何程式碼的情況下，準確率竟然跌到了 60%，請問這是什麼技術問題？一樣給大家兩、三秒鐘的時間，快速回想一下。3、2、1，欸哈，答案揭曉：這就是非常經典的資料飄移，或者是概念飄移。
各位只要在考題裡面看到「這個模型一開始很準，但是隨著時間推移，然後外在環境改變導致預測失效」這幾個特徵，真的不要懷疑，它就是發生了飄移現象。這其實也再次呼應了我們一開頭強調的：模型是需要持續監控的，因為這是一個全生命週期的治理過程啊。
終於來到最後了，第六部分，考前必備關鍵字，我要幫大家把分數穩穩拿下。這三個關鍵字請大家務必現在立刻截圖或是拿筆寫下來：第一，看到 AI 風險就要想到全生命週期治理，它絕對不是一次性檢查。第二，看到「黑箱」就要想到這會降低大家的信任感，看到「偏誤」就要想到這會造成社會上的不公平。第三，只要題目情境裡面碰到了個人資料，你的首要任務絕對是確認合規跟資料保護。
我跟大家保證，把這三句話深深印在腦海裡，你在考場上絕對能避開 80% 以上的陷阱。
今天的解說就差不多到這邊告一段落了。但在離開之前，我想留一個有趣的問題讓大家思考一下：當未來 AI 的決策變得越來越精準，甚至它的影響力已經超越了我們人類的日常判斷時，我們到底該怎麼做，才能確保它永遠乖乖待在我們設定的倫理框架跟底線上呢？
這其實不只是一道考試題，更是我們未來每個人都必須面對的真實挑戰。不過我相信經過今天的衝刺，大家對 AI 各個層面的風險已經有了非常清晰的掌握，考試絕對沒問題的。
留言