第十四集：AI 系統集成與部署（L21302）
Hi 大家好，我是你的 iPAS 陪跑師 Stan，大家最近準備的怎麼樣啦？辛苦了。今天我們的任務目標非常明確，讓我們直接進入課程重點。
今天這集解析就是要幫各位建立，並且徹底打通 AI 系統集成、部署架構、容器化技術、API 串接、MLOps，還有邊緣 AI 這些觀念，當然還包括最後的持續優化。這堂課會把大家腦中零碎的知識點全部串接起來，變成一個完整的系統觀。準備好你的筆記，我們馬上開始囉。
首先，我們必須先面對一個非常殘酷的現實。很多剛碰 AI 的新手，或者是在準備考試的同學，常常會有個迷思，就是覺得：我模型準確率跑到 99% 了，這個專案應該大功告成了吧？其實根本不是這樣。
說句實在話，模型訓練好絕對不代表系統就能用。一個在實驗室裡面跑的超完美的模型，如果沒有經過妥善的封裝，沒辦法跟公司現有的系統對接，那它說穿了就是一堆跑不動的程式碼而已，沒什麼商業價值。模型要真正產生價值，它必須經過封裝、整合、部署、監控，還有持續的優化，這整個流程就是我們今天要講的核心。
為了讓大家腦中有個清晰的藍圖，這是我們今天的學習進度表：我們會從實驗室講到真實系統，接著看四大部署架構、容器化技術、MLOps 與團隊分工，最後會帶大家做兩題實戰測驗，並送上考前必備的關鍵字。
好的，馬上進入第一部分，看看模型怎麼從實驗室走到真實系統。
當我們把模型從那個資源完美、與世隔絕的訓練環境拿出來的時候，第一件要面對的事就是集成。那到底什麼是 AI 系統集成？白話一點講，系統集成就是把你訓練好的模型，跟真實世界的資料來源、應用程式、API，還有公司原本的業務流程牽起手來，把它們連接在一起。
大家可以想像一下，模型就像是一顆超級聰明的大腦，但大腦要有神經系統才能接收外界的資訊，然後做出反應，對的。系統集成就是在幫模型接上這些 API。API 就是不同軟體之間溝通的橋樑，它確保了資料能順利流進來，預測結果能順利傳出去，而且在權限控管跟使用者介面上，都能跟業務單位的日常操作無縫接軌。
接著進入第二個重點，也就是所謂的四大部署架構。
模型成功接上神經系統之後，下一個大問題就是：好，那這個模型到底要住在哪裡？部署的選擇絕對不能隨便挑，必須完全依照企業的真實需求來做決定。我們通常有四個選項。
第一是雲端，這適合需要超強彈性跟強大算力的場景。第二個是地端，也就是把模型部署在企業自己內部的伺服器上，這通常是因為資料真的太機密了，覺得不能外流。第三個是混合，就是截長補短，把機密資料留在家裡，重運算丟給雲端。第四個就是邊緣，這個可是近年考試超級愛考的重點喔。
我們特別把雲端 AI 還有邊緣 AI 拿出來比較一下。到底什麼是邊緣 AI？其實它就是把模型直接部署到離資料產生源頭最近的終端裝置上，像是你的手機啦、監視器，或者是工廠裡的感測器。為什麼要這麼麻煩？因為這樣可以大幅提升即時性，並且有效降低資料傳輸的延遲跟成本。
你想想喔，如果今天是一台自動駕駛的車子，它每一次踩煞車都要把影像傳到雲端，再等雲端把指令傳回來，那真的太遲了，對吧？會出人命的。所以考試的時候，只要看到「即時性」或是「降低資料傳輸」，一定要馬上聯想到邊緣 AI。
好，再來是第三個重點，保護模型不崩潰的容器化技術。
決定好模型住哪裡之後，我們還要確保它搬家的時候不會水土不服。在工程界，大家最常聽到的災難對話應該就是：「這個程式在我的電腦上跑明明是正常的，怎麼上線就壞了？」為了解決這個魔咒，我們需要容器化技術。我用一句話簡單定義它：容器化技術就是把應用程式，還有它所有依賴的環境參數，完完整整的打包封裝起來。
這樣一來，就能保證模型從開發人員的筆電到測試環境，再到最終的上線環境，都能保持絕對的一致。就像是把模型裝進一個特製的太空艙裡，不管你把這個太空艙丟到哪一顆星球，裡面的空氣、溫度、重力，永遠都跟地球一模一樣。
接下來我們進入第四部分，來看看 MLOps 以及團隊裡的角色分工。
模型如果順利上線、穩定運作了，那我們的工作是不是就結束了？錯了，其實這才剛開始而已。模型這個東西，它有點像活的生物，隨著時間過去，外在環境跟資料都會改變，模型是會慢慢退化、變笨的。所以這時候，我們就需要 MLOps 出場了。
什麼是 MLOps？簡單來說，它就是一套用來支援模型生命週期持續管理的機制。它不是一個單一的動作，它是一個無限循環，裡面包括了持續整合、持續測試、持續部署、上線後的持續監控，當然還有當你發現模型變笨、準確率下降時的持續再訓練。有這套機制，我們的系統才能在高速運轉下保持健康，不斷的自我優化。
當然啦，要推動這整個龐大的系統，非常仰賴團隊合作，這也是 iPAS 考試很喜歡考的職責判斷題型。畫面上這個看著藍圖的產品經理，他的核心任務是需求對齊與驗證場景，他確保我們做出來的 AI 真的是客戶想要解決的問題。而另一邊負責實作的工程人員，則是要處理技術層面的挑戰，負責把模型封裝好，並且穩穩地把它整合到真實系統裡。這兩個人各司其職，是缺一不可的。
理論講完了，馬上進入第五單元，也就是我們的實戰測驗與解析時間。各位到這裡，重要的理論都吸收的差不多了，現在是驗收成果的時候了。請大家隨時準備好你的直覺反應。
第一題來了，請仔細抓題幹裡的關鍵字：哪一種概念或是技術，主要用來確保模型從開發到上線的環境一致性與高度的可攜性？準備好了嗎？給你三秒鐘在心裡想一下答案。3、2、1，答案揭曉，沒錯，就是容器化。
Stan 陪跑師在這邊要特別提醒大家一個考試技巧：考試只要看到「環境一致性、可攜性、打包封裝、依賴環境」這種關鍵字，就毫不猶豫地往容器化的方向去判斷。這可以說是一道絕對不能丟分的送分題，大家考試時千萬別掉進其他架構名詞的陷阱裡了。
再來我們看第二題，這也是本集最容易被搞混的觀念。題目是：如果系統上線後，我們需要一個方法來支援模型的持續整合、測試、監控與再訓練，這整套流程屬於哪一種管理概念？這題要想清楚喔，一樣三秒鐘的時間給你。3、2、1，冰崩！答案就是 MLOps。是不是有一種「啊！原來如此」的感覺？
很多同學在考場上會把 MLOps 還有單純的 DevOps，或是一般的系統集成搞混。請大家記住：只要題幹裡面非常強調「模型上線之後的持續動作」，特別是點出了「監控與再訓練」來維持它的生命週期，那不用懷疑，答案絕對就是 MLOps。這個核心觀念請大家務必要牢牢記在腦海裡。
最後進入第六單元，為大家整理考前必備的關鍵字清單。
課程來到尾聲了，為了讓大家踏入 iPAS 考場前有最清晰、最直接的記憶點，我們把今天的精華濃縮成這三個反射動作，請當作口訣背下來：
第一，看到模型要上線，直覺反應就是絕對不能直接丟出去，必須考慮封裝、介面、部署、監控跟維運。第二，考卷上只要出現「環境一致性與可攜性」，請直接想到容器化。第三，看到「生命週期持續管理」，或是「持續整合與再訓練」，閉著眼睛選 MLOps 就對了。只要把這三點記牢，這個單元的分數你絕對能穩穩拿下。
今天的 iPAS 陪跑課程就到這邊告一段落啦。看到大家這麼有熱情，朝著目標 100% 邁進的樣子，真的是太棒了。如果今天這堂陪跑課對你的考前衝刺有幫助，請務必訂閱、按讚，並且把這個 iPAS 陪跑師頻道分享給所有正在跟你一起苦讀的戰友們。
留言