Day01 - 寫在之前: 為何您需要知道從 MLOps 到 LLMOps 的混合雲實踐這篇系列文?
MLOps 的發展也已經經歷了 5 年以上,目前來到了 LLM (大型語言模型) 的時代,而 LLM 的訓練與部署,更是需要更多的資源與時間,因此 MLOps 的重要性也更加的凸顯。
大多數的 MLOps/LLMOps 的實踐,不外乎自行架設模型訓練平台,或是利用幾大家雲端服務,但是在實際的企業中,往往會有多個雲端的環境,因此我們需要更多的工具與生態圈來協助我們在混合雲的環境中,進行 MLOps/LLMOps 的實踐。
此系列將會以 MLOps/LLMOps 的幾個核心元件為主軸,分別介紹幾個常見的工具、生態圈,並且透過簡單的範例,分別在不同的工具上展示從資料工程的開發階段,程式碼管理,模型上線、監控,達到 MLOps/LLMOps 的完整實踐。
底下為此系列的大綱,將會持續更新,歡迎各位先進不吝給予指教與討論。
MLOps 簡介
LLM 簡介
LLMOps 與 MLOps 的關係
使用 MLOps & LLMOps 幾個主流的工具與相關生態圈
一個簡單的範例
Databricks
MLflow
Azure Machine Learning Services
SageMaker / Vertex AI
其他工具 (Ray, AnyScale AI etc.)
#15th鐵人賽 #iThome #MLOps #LLMOps #LLM