Vertex AI Agent Builder 簡介與簡易入門
Google 在 2024 2月8日公告 Duet AI 跟 Bard 之後都移到 Gemini 產品線底下,加上今年的 Google Cloud Next ‘24 裡面一直提到的 Vertex AI platform,是不是更大家更容易昏頭,這邊有個簡單說明 (參考文件),但是今天主要是針對 Vertex AI Agent Builder 做說明。
在打造 Generative AI 與 AI 應用時,以目前主流的 RAG 應用開發,不外乎環繞著幾個元素:模型,搜尋工具,開發工具。而 Vertex AI Agent Builder 可以視為一種 Node-Code/Low-Code 的工具。打開 Vertex AI 官方文件,發現有兩個連結:第一個建構生成式 AI 虛擬服務專員 (https://cloud.google.com/vertex-ai-search-and-conversation) ,這個在去年的 Google Cloud Summit 2023 應該就有聽說過 ,也就是 Diaglogflow CX
第二個連結 Vertex AI Agent builder ,從文件說明可以知道包含了兩個部分:
Vertex AI Agents
Vertex AI Search
Vertex AI Agent 其實就是建立一個 Dialogflow CX Agent,也稱為 data store agent。概念上就是提供目標的網站連結,或是文件 (統稱為 data store)。而透過這個 data store agent 會根據提供 data store 存放的文件內容,提供對談方式的查詢。也就是 Chat With Your Data。
那為何又需要 Vertext AI Search 呢?就像我之前在很多 Workshop 或演講常提到的,使用 LangChain, LlamaIndex etc.,加上自己打造的 Document parser 直接 parse 內容這種方式雖然簡單,但是對於 Production 環境其實非常難維護,即使你是不是有自己有 Vector Store 存放 Embedding 做語意搜尋,更細節的原因後續有機會在現場演講或是之後再說明。所以這時候如果有 Cloud Solution Provider 提供企業等級的語意搜尋,會讓原本的對談式解決方案,有更好掌控 (Configurable)。針對目前主流的 Vertex Search 跟 Azure Search 的調教,有機會就私下詢問顧問服務吧。
我講話比較憨慢,直接開畫面來說明吧!
如果有照著前兩篇的操作,不管有沒有成功,至少會看到這個畫面。
App type 為 Chat 的就是第一篇的操作,打開其實會導到 Diagflow CX 的畫面
而另一個 type 為 Agent 的比較有趣,會導向
https://vertexaiconversation.cloud.google.com/ ,提供了 Goal, Instructions,看來就是符合目前 AI Agent 的幾個元素啊!
接下來切到 Data Stores
可以看到連結的 app
然後 Settings 是不是一時無法理解要做什麼用途,因為之前參與過幾個企業級的專案架構設計,推想應該是除了 Google Identity 連結其他 Google Workspace 認證,也提供其他方式認證。
Monitoring 也有基本款的 operation logging,不過我看到一個 View API Metrics
還不錯啊,也許有機會客製化一下 Metrics?
下一篇期待可以先把整合驗證的 Test Client 準備完,才算完整走完 End-To-End。:-)