Vertex AI lesson one: from studio to code

接下來會是利用 Vertex AI Platform 產出 GenAI Application 的心得分享系列，今天先來從現有的 Vertex AI Studio 轉到 Code 的教學。

Q: 為什麼不用現成 Colab?

A: Colab 在教學現場或是 Workshop 時，通常可以解決學員環境各種奇怪問題 (跨平台/Python 版本等等) 。然而在實際的開發過程中，通常不會是 Jypyter Notebok 一個檔案搞定，而且寫 Notebook 久了，往往會忘記該有的程式撰寫基本習慣 (ex. 模組化，全域/區域變數)。總之，接下來就會以 `.py` 為主，偶爾以 Notebook 快速展示概念為輔。

Step 1: 從 Google Cloud Console 搜尋 `Vertex AI Studio`，打開 `Open Freeform`

Step 2: 現在居然有 `Help me write` 這種小精靈功能，來試試

Step 3. 底下的範例按鈕點一下 `Generate book titles`

可以透過 Studio 實驗一下 Prompt 產生的文字，選擇不同的 Model 等等。

Step 4. 目標是要改用 Code base 執行，點選 `Get code`

Code snippet

照著指示另存成 booktitle.py 吧！

Step 5. 透過 virtualenv 建立一個專屬的 Python 環境給這次的 Lab 吧！記得永遠別弄髒自己開發環境。

$ pyenv virtualenv 3.11.9 lab-gcp
$ pyenv local lab-gcp
(lab-gcp) jimmyliaox1c ➜  
(lab-gcp) jimmyliaox1c ➜  pip install --upgrade google-cloud-aiplatform 

Step 6. 用 gcloud cli 取得一組臨時性的 application token

(lab-gcp) jimmyliaox1c ➜  gcloud auth application-default login

會跳出瀏覽器需要選擇使用 Google Cloud Console Project 的 email 帳號。

Step 7. 執行

(lab-gcp) jimmyliaox1c ➜  python booktitle.py

Logline: A disgraced historian, haunted by a past mistake, uncovers a hidden conspiracy that threatens to unravel the very fabric of reality.

Genre: Historical Thriller

Optional Example:  The Historian's Curse


Generated Titles:

1. The Obsidian Mirror: A Historian's Conspiracy
2. Threads of Time: A History Unraveling
3. The Shadow of Veritas: A Historical Thriller
4. Echoes of Deception: The Historian's Secret
5.  Fractured History: The Bancroft Enigma

相關程式在 llm-workshop