概述
本課程針對資料科學家、機器學習工程師及其他資料從業人員，協助他們利用最新且最受歡迎的框架與 Databricks 功能來打造生成式 AI 應用。
以下我們將介紹本課程中包含的四個四小時模組。
生成式 AI 解決方案開發：這是你使用檢索增強生成（RAG）方法來介紹情境生成式 AI 解決方案的入門。首先，你會認識 RAG 架構以及使用 Mosaic AI Playground 的情境資訊的重要性。接著，我們將示範如何準備生成式 AI 解決方案的資料，並將此過程與建構 RAG 架構連結起來。最後，你將探索與情境嵌入、向量、向量資料庫以及 Mosaic AI 向量搜尋相關的概念。
生成式 AI 應用開發：準備好獲得使用多階段推理 LLM 鏈與代理建構進階 LLM 應用的資訊與實務經驗了嗎？在本單元中，您將首先學習如何將問題分解為其組件，並為每個步驟選擇最合適的模型，以提升商業應用案例。接著，我們將示範如何利用 LangChain 與 HuggingFace 轉換器構建多階段推理鏈。最後，您將認識代理，並利用 Databricks 上的生成模型設計自主代理。
生成式 AI 應用評估與治理：這是你評估與治理生成式 AI 系統的入門課程。首先，你將探討建立評估與治理/安全系統背後的意義與動機。接著，我們將將評估與治理系統與 Databricks 資料智慧平台連結起來。第三，我們會教你針對特定元件與應用類型的多種評估技術。最後，課程將以評估整個 AI 系統的效能與成本作結。
生成式 AI 應用部署與監控：準備好學習如何部署、操作化及監控生成式 AI 應用了嗎？本模組將協助你掌握使用模型服務等工具部署生成式 AI 應用的技能。我們也會說明如何依照最佳實務與推薦架構，將生成式 AI 應用運作化。最後，我們將討論使用 Lakehouse Monitoring 監控生成式 AI 應用及其組件的想法。
企業內部培訓
除了一般的導師公開課外，我們還根據機構的需求提供私人的企業內部培訓。詳情請致電 +852 2116 3328 或發送電郵至 [email protected] 查詢。
為什麼選擇 KORNERSTONE
- 經認證、由實務人員主導的專家證書培訓師，提供高品質的培訓
- 官方訓練資料包含
- 實務、情境導向學習——著重應用，而非僅理論
- 優秀的通過率
涵蓋技能
- 生成式人工智慧解決方案開發
- 生成式 AI 應用開發
- 生成式人工智慧應用評估與治理
- 生成式 AI 應用部署與監控
先決條件
- 生成式人工智慧基礎
- 開始使用 Databricks 生成式 AI 課程
- 理解自然語言處理概念
- 熟悉提示工程/提示工程最佳實務
- 使用 Databricks 資料智慧平台的經驗
- 有RAG經驗（準備資料、建立RAG架構、嵌入、向量、向量資料庫等概念）
- 使用多階段推理 LLM 鏈與代理建構 LLM 應用的經驗
目標受眾
此課程專為資料工程師、機器學習工程師及 AI 從業人員設計，協助他們在 Databricks Lakehouse 平台上建置並部署生成式 AI 解決方案。非常適合希望將大型語言模型與 AI 能力整合進生產工作流程的專業人士。
課程內容
模組一：生成式 AI 解決方案開發
- RAG 簡介
- 準備RAG解決方案的資料
- 向量搜尋
- RAG 申請的組裝與評估
模組二：生成式人工智慧應用開發
- 複合式人工智慧系統的基礎
- 建立多階段推理鏈
- 代理與認知架構
模組三：生成式AI應用評估與治理
- 評估生成式人工智慧應用的重要性
- 保護與管理生成式人工智慧應用
- 生成式AI評估技術
- 端對端應用程式評估
模組四：生成式人工智慧應用部署與監控
- 模型部署基礎
- 批次部署
- 即時部署
- AI 系統監控
- LLMOps 概念
日期與地點
考試與認證
Databricks 認證生成式 AI 工程師助理。
Databricks 認證生成式 AI 工程師助理認證考試評估個人利用 Databricks 設計並實施大型語言模型（LLM）解決方案的能力。這包括將複雜需求拆解為可管理任務的問題，以及從當前生成式 AI 領域中選擇合適的模型、工具與方法，以開發全面解決方案。
同時評估 Databricks 專用工具，如用於語意相似性搜尋的向量搜尋、用於部署模型與解決方案的 Model Serveing、用於管理解決方案生命週期的 MLflow，以及用於資料治理的 Unity Catalog。通過此考試的個人預期將能建構並部署效能優良的 RAG 應用程式與大型語言模型鏈，充分發揮 Databricks 及其工具組的優勢。
考試涵蓋：
- 設計應用 – 14%
- 資料準備 – 14%
- 應用開發 – 30%
- 組裝與部署應用程式 – 22%
- 治理 – 8%
- 評估與監測 – 12%
