MLOps 是團隊運動：共同努力將 AI 實現運營

回顧我的分析專案

有時候，我會回想起我第一個分析專案，感到非常尷尬。在我完成研究生學位的專題專案時，我的團隊犯了一個很大的錯誤。這個專案是為當地的健康系統做的，我們花了很多時間清理和準備他們提供的數據。然後我們訓練了幾個模型，發現隨機森林模型效果最好。最後，我們把訓練的程式碼交給當地健康系統，告訴他們可以用這些程式碼重建我們的模型，然後我們就畢業了，繼續前行。不幸的是，我們的課程並沒有教我們如何將模型投入實際使用。我們從未寫過評分函數，也沒有考慮模型將如何被使用。我們的角色在模型訓練完成後就結束了。

團隊合作的重要性

自那以後，我與許多組織的工程師交談，了解他們在將模型投入生產時所遇到的困難。他們的抱怨中有一個共同的主題，就是數據科學家往往把模型“扔過圍欄”給IT部門處理。IT部門需要花時間編寫評分程式碼、準備數據來進行評分，並實施模型，通常卻得不到數據科學家的充分資訊。擁有了這種新視角，我開始思考如果能重來，我會如何改進我的專題專案，讓我們的模型更容易使用。

數據科學家

數據科學家在分析過程中扮演著核心角色。他們不僅開發模型，還理解業務問題。數據科學家熟悉模型的應用以及用來開發模型的基礎數據。此外，他們應該與IT和MLOps工程師建立共識，以了解開發、測試和生產環境之間的限制和差異。在一些組織中，他們還與風險團隊合作，以提供模型的驗證，確保其低風險。數據科學家理解模型性能的統計指標和數據分佈的變化。他們與最終用戶和IT溝通與合作，以確定模型何時失效，並制定快速更新模型的行動計劃。

MLOps工程師（IT）

MLOps工程師，許多組織稱之為工程師或IT，負責驗證和測試數據科學家的模型，將模型投入生產並提供給最終用戶。IT和MLOps工程師了解並監控測試和生產基礎設施。MLOps工程師促進AI在企業中的使用，幫助團隊從實驗過渡到成功且可重複的企業AI實施。他們的工作是確保數據科學家開發的模型能夠擴展，以滿足生產環境中的業務需求，同時持續評估數據以了解模型的有效性。

經理與高層主管

經理和高層主管主導專案，以通過數據驅動的決策改善結果。他們關注組織的分析過程的有效性，並通過資助試點專案來推動AI創新。他們關心現代化企業，以降低成本並達成組織的關鍵績效指標（KPI），例如投資回報率（ROI）和價值實現時間（TTV）。

風險分析師與經理

根據你的行業，你可能需要處理影響機器學習（ML）部署的額外法規考量。這就是風險分析師和經理的角色。風險分析師分析、記錄並幫助減輕模型風險。他們了解哪些法規要求適用於他們的組織，並幫助量化不良模型的成本。風險分析師需要從最終用戶那裡獲取業務流程的信息，以及從數據科學家那裡獲取模型的信息。

最終用戶

最終用戶利用模型的輸出來影響組織的決策。例如，分析的最終用戶包括：

• 在決定是否向個人提供貸款時，貸款專員利用違約概率（PD）模型。
• 市場行銷人員利用傾向模型來確定針對一組潛在客戶的行銷活動。
• 客戶成功經理利用流失模型來判斷哪些客戶有高風險取消合約，因此需要特別關注。

最終用戶希望利用可用的信息做出正確的選擇。雖然他們可能不理解模型背後的分析，但他們需要相信模型的輸出能幫助他們。他們希望獲得易於理解的分析過程和模型輸出的信息，包括：

• 清晰且可行的建議。
• 自然語言生成（NLG）解釋如何解讀指標。
• 模型的可解釋性，讓他們了解一般規則如何影響輸出，以及為什麼模型對特定輸入做出預測。

團隊合作

除了這些角色外，我們還可能看到數據工程師、AI倫理學家、AI產品經理、商業分析師、提示工程師等。當你回顧所有影響分析專案的人時，可能會感到不知所措。以下是五個有助於協調團隊朝著統一MLOps策略努力的共同特徵：

• 溝通——清晰且具同理心的溝通對於MLOps團隊至關重要，能夠協調利益相關者並表達多樣的目標。這是成功的基石，需要一致性和清晰度。
• 利益相關者的參與——質量參與比花費的時間更重要，目標是達成共同的里程碑，而非個人的勝利。
• 團隊合作——不再把任何事情扔過圍欄。團隊合作建立在統一的節奏上，促進協作文化，減少摩擦，增強集體成就。這不僅關乎個別任務，而是關乎團隊努力的一致流動。連接、迭代和重複。
• 解決問題——AI的核心是通過技術解決人類問題。當MLOps團隊合作並迭代問題時，他們培養了一種特殊的環境，鼓勵創造性解決方案，這些解決方案往往位於不同專業領域的交集處。這種集體知識不僅關乎個別領域的專業能力，還關乎能夠靈活應對這些領域交界處出現的挑戰。
• 展現領導力——即使角色之間的責任界限模糊，領導力仍然至關重要。每位團隊成員都應該被賦予領導和主動行動的權力，即使在缺乏直接指示的情況下。及時告知團隊新出現的問題，並體現領導力是行動的原則，個人應該始終為團隊做正確的事情。

當組織採用MLOps時，團隊努力解決出現的共同問題，而個人則在各自的領域中領導。隨著時間的推移，這些不同的利益相關者開始理解職位角色之間的自然緊張關係。這促進了跨越這些人際邊界的工作，使團隊能夠共同獲勝。

羅馬不是一天建成的，但它也不是單一個體的工作。它需要無數專家的參與，如工程師、工匠、勞工和決策者，大家共同朝著一個宏大的目標努力。就像一個繁忙的帝國，MLOps依賴於合作精神，目標是將AI模型投入實際運用。自然，建立你的團隊是成功MLOps策略的基石。

了解更多

查看我們免費的1小時網路研討會，提升你的分析之旅

閱讀有關SAS Viya如何成為MLOps完美選擇的文章

這篇文章是與Luis Flynn合作撰寫的。