去年，全世界才開始想像生成式人工智能（AI）技術將為企業帶來怎樣的改變。今天，這些改變正在逐步發生。Google 的使命一直沒變：讓 AI 造福每一個人，盡力為更多人帶來更美好的生活。
一個連結雲端、由 AI 驅動的虛擬服務專員世界
Google Cloud 的AI產品組合非常全面，包括基礎設施、Gemini、多種模型、Vertex AI 等。客戶與合作夥伴正運用這些產品建立日漸精密的 AI 虛擬客服專員，以服務客戶、支援員工以及製作內容等。
優秀的虛擬客服專員可以協助客戶以文字、語音等多種模式，透過各渠道例如網站、行動裝置、客服中心及銷售點等，與企業無縫且流暢地互動。
- 洲際酒店集團酒店及度假村將推出生成式 AI 驅動的行程規劃功能，協助旅客輕鬆規劃下一趟旅程。
- Target 正在優化其 Target 應用程式和 Target.com 上的優惠和自取提貨服務。
員工使用的虛擬服務專員讓企業員工變得更高效，並促進團隊更好地合作。例如：
- Etsy 使用 Vertex AI 訓練來優化他們的搜尋建議和廣告模型，為買家提供更好的商品建議，並增加銷售額。
- 巴西企業 Dasa 幫助醫生更快偵測出測試結果中的相關發現。
創意虛擬服務專員可以與使用者一同進行圖像與簡報相關工作，並探索各種想法，擔當企業最得力的設計師和製作團隊。我們提供最強大的平台和技術堆疊助企業建構創意虛擬服務專員。例如：
- Canva 在其 Magic Design for Video 中使用 Vertex AI ，幫助用戶在幾秒鐘內便能製作出引人入勝的影片。
- 家樂福使用 Vertex AI 在各種社交平台創建動態營銷活動，將準備時間由幾個月縮短至幾周。
Google Cloud 在 Cloud Next ’24 大會上宣布以下一系列產品創新，協助各種規模的機構在 AI 時代向前邁進。
透過 AI 優化的基礎架構協助擴展
生成式 AI 可迅速推動轉型，但需要有強大的基礎設施支持。為了在技術堆疊的每個層面為客戶提供支援，Google Cloud 提供多項關鍵改良：
- A3 mega：Google Cloud 與NVIDIA開發的全新 GPU 執行個體現已正式推出。此執行個體使用 H100 Tensor Core GPU，每個 GPU 的互連頻寬為 A3 執行個體的兩倍，能滿足最嚴苛的工作負載。Google Cloud 也即將推出 Confidential A3，讓企業在訓練和推理期間能更好地保護敏感數據和 AI 工作負載的機密性和完整性。
- NVIDIA HGX B200 與 NVIDIA GB200 NVL72：Google Cloud將於 2025 年初採用最新的 NVIDIA Blackwell 平台晶片，分別有 HGX B200 和 GB200 兩種型號選擇。B200 專為主流模型的訓練和運作所設計，而GB200 NVL72則為上兆級參數規模模型的實時大型語言模型推理和大規模模型訓練提供支援。
- TPU v5p: Google Cloud 宣布全面推出 TPU v5p，這是最強大、最具擴充性、最靈活的 AI 加速器，適用於訓練和推理。相比上一代，每個 Pod 單位的運算能力提高了 4 倍。Google Cloud亦推出 Google Kubernetes Engine (GKE) 對 TPU v5p 的支援。過去一年，GKE 上 的 GPU 和 TPU 使用量增長了 900% 以上。
- AI 優化儲存選項：透過 Cloud Storage FUSE 和 Parallelstore 中全新的快取功能，Google Cloud可以於更接近客戶的 TPU 或 GPU 位置存取資料，有助加快訓練速度。同時，Google Cloud 亦推出 Hyperdisk ML（預覽版），這是新一代區塊儲存服務，相比其他常見的替代方案，其模型架構載入時間快最多 3.7 倍。
- 動態工作負載排程（Dynamic Workload Scheduler）的新選項：日曆模式可確定工作負載於需要的時間開始執行，而彈性開始時間模式可提供最佳經濟效益，協助客戶為複雜的訓練和推理工作有效管理管理資源。
Google Cloud亦將 AI 融入至更接近數據生成和使用的地方，無論是邊緣或氣隙隔離（air-gapped）環境，以至 Google Sovereign Clouds 及跨雲端環境。透過 Google Distributed Cloud (GDC) ， AI 可應用在任何場景，讓企業可以選擇最符合機構特定需求的環境、配置和控制選項。例如，在 26 個國家及地區營運的流動通訊服務供應商 Orange 必須確保當地數據保留在所在國家或地區。他們在 GDC 上運用 AI，以提升網絡性能及客戶體驗。
今天 Google Cloud 宣布一系列 GDC 的新功能，包括：
- 於 GDC 上提供 NVIDIA GPUs：在 GDC 提供 NVIDIA GPU，無論是採用連線或氣隙隔離（air-gapped）設定都適用。這兩種設定都將支援新的 GPU 執行個體，以高效執行 AI 模型。
- 在 GDC 提供 GKE 服務：頂尖的 AI 公司在 Google Cloud 上使用的 GKE 技術也將同樣在 GDC 中提供。
- 支援 AI 模型：支援 GDC 中多種開放式 AI 模型包括 Gemma、Llama 等，在氣隙隔離和連接邊緣環境（connected edge environment）中運作。
- 在 GDC 提供 Vector Search：引入 Vector Search 功能，讓企業在 GDC 上搜尋和提取機密及敏感的數據，並享受極低時延的優勢。
- 主權雲（Sovereign Cloud）：為了滿足最嚴格的監管要求，Google Cloud 可以提供完全氣隙隔離的GDC。此產品能在本地運作、具備完整的存續能力（survivability），可由 Google 或企業所選的合作夥伴進行代管，一切完全由您掌控。當法規改變時，我們亦可靈活地協助企業快速應對。
雖然並非每個工作負載都屬於 AI 工作負載，但雲端中執行的每個工作負載都需要進行最佳化調整，而當中每個應用程式都有特定的技術需求。Google Cloud 推出全新的一般用途運算選項，以助客戶獲得最佳效能、確保應用程式之間的互通性，並以永續發展為目標，同時降低成本。
- Google Axion： Google Cloud 第一個自訂 ARMⓇ 架構的 CPU，專為數據中心而設。相比起目前最新一代的同等 x86 型執行個體 ，效能提升最高達 50%、能源效率最高則可提升 60%。
- Google Cloud 一般用途的 VM 系列將推出兩個全新的機器系列：N4 與 C4。C3 機器系列將推出原生裸機機型。此外，Hyperdisk Advanced Storage Pools 及其他產品亦將正式發布。
Google Cloud 亦將 Vertex AI 上生成式 AI 靜態資料儲存的數據駐留（data residency ）服務，擴展至 11 個新的國家或地區，包括：澳洲、巴西、芬蘭、香港、印度、以色列、義大利、波蘭、西班牙、瑞士和台灣。
- 此外，客戶現使用 Gemini 1.0 Pro 和 Imagen 時，可以將機器學習處理限制在美國或歐盟地區。
- 這些新地區與去年宣布的其他 10 個國家一樣，都讓客戶能夠更好控制資料的儲存位置和存取方式，使客戶更輕鬆地應付世界各地的監管和安全要求。
以 Vertex AI 創建 AI 代理人
Google Cloud 在 Vertex AI 上提供超過 130 種自家與第三方模型。今天，Google Cloud 將提供更多種模型，為客戶提供最豐富的模型選擇：
- Gemini 1.5 Pro：Gemini 1.5 Pro 提供兩種大小的內容視窗（Context Window） – 128,000 符記（Token）及 1 百萬符記，目前處於公開預覽版階段。客戶現可在單一串流中處理大量資訊，包括 1 小時的影片、11 小時的語音、超過 30,000 行程式碼的程式碼庫，或超過 700,000 個字。
- Claude 3：Anthropic 全新的一系列先進模型，目前可供客戶在 Vertex AI 上使用。
- CodeGemma：Gemma 是一系列輕量級先進開放式模型，憑著創建 Gemini 模型的同一研究及技術所建構出來。Vertex AI 現提供 Gemma 的全新優化版本 CodeGemma，專為程式碼生成和輔助程式碼編寫等使用案例而設。
- Imagen 2：Google Cloud 最先進的文字生成圖像技術擁有多種圖像生成功能，可幫助企業生成符合其特定品牌要求的圖像。而全新推出的文字生成實時圖像功能，使營銷和創意團隊能輕易生成如 GIF 等的動畫圖像，並已具備安全過濾和數字水印技術。此外，Google Cloud 也推出了高階照片編輯功能，包括圖像修復和圖像擴展等。
- 數字水印：此功能由 Google DeepMind 的 SynthID 技術支援，今天起正式於 Imagen 2 生成的 AI 圖像上使用。
客戶若使用企業數據來增強與連結(grounding) 模型，可以發揮模型最大功效。今天，Google Cloud 正以兩種方式加強 Vertex AI 的連結資訊來源能力，使其功能更加完善：
- Google 搜尋：以 Google 搜尋作為模型的資訊來源，能結合 Google 最新基礎模型的強大功能，及存取最新且高質素的資訊，從而提升所作之回應的完整性及準確性。
- 您的數據：以企業應用程序（如 Workday 或 Salesforce）的數據連結資訊來源，並能輕鬆連接Google 的數據庫，如AlloyDB和BigQuery。
一旦挑選了合適的模型、加以調整並連結資料來源後，Vertex 也能協助進行部署、管理與監控模型。今天，Google Cloud 宣布推出更多機器學習運作功能：
- 提示管理工具：透過這些工具，您可以與團隊在內置提示中運用註釋和狀態協作、追蹤不同時候的變化，並比較不同提示的回應質素。
- 自動並排比較：Auto SxS 現已推出，此功能可解釋為何某種提示的成效比另一種提示更好，並提供確定性分數，協助用戶瞭解評估的準確性。
- 快速評估功能：此功能現已推出預覽版，可協助客戶在反覆設計提示時，運用較小的資料集快速評估模型。
最後，Vertex AI Agent Builder 集合不同基礎模型、Google 搜尋技術和其他開發工具，助客戶輕鬆建構和部署代理 (agent) 。它不但提供了無代碼代理程式生成器控制台的便捷性，並擁有強大的連結資訊來源、編排和增強功能。透過 Vertex AI Agent Builder，客戶現在可以快速建立一系列以 Google 搜尋技術和自身企業資料為基礎的生成式 AI 代理。
縮短開發時間
Gemini Code Assist 是 Google 專為企業度身訂造的 AI 程式碼編寫輔助解決方案。為支援開發人員，Google Cloud 宣布推出以下更新：
- 於 Gemini Code Assist 中使用 Gemini 1.5 Pro：這項升級提供支援達 1 百萬個符記（Token) 的內容視窗，即使對於大型項目也徹底改變程式碼編寫程序。Gemini Code Assist 現在提供更準確的程式碼建議、更深入的見解，以及精簡的工作流程。
- Gemini Cloud Assist：此功能可在應用程式生命週期各階段提供 AI 輔助功能，讓用戶更輕鬆地設計、保護、操作、進行疑難排解，並優化應用程式效能與成本效益。
Google 對內部一組運用 Gemini Code Assist 的開發人員進行研究，發現他們完成常規開發工作所需的時間加快 40% 以上，編寫新程式碼的時間亦縮短了 55%。事實上，Gemini Code Assist 支援位於任何位置的私人程式碼庫，無論是就地部署、GitHub、GitLab、Bitbucket，甚至是多個位置亦可。
透過數據，釋放龐大 AI 潛能
透過 Google Cloud ，企業可將最佳的 AI 技術與連結資訊來源的企業資料結合，同時保持資料的隱私和安全性。Google Cloud 現在宣布推出全新強化功能，協助機構建立優秀的數據虛擬服務專員：
- Gemini in BigQuery：Gemini in BigQuery 運用 AI 技術來協助數據團隊準備、探索、分析及管理數據。此外，企業能透過 Google Cloud 新的 BigQuery Data Canvas 建立與執行資料管道(pipelines)。BigQuery Data Canvas 透過自然語言與嵌入式圖表，提供類似筆記本的全新使用體驗，兩者目前皆提供預覽版。
- Gemini in Database：透過 Gemini in Database，您可輕鬆安全地將數據從舊系統中遷出，例如將數據庫轉成 AlloyDB 等現代雲端數據庫。
- Gemini in Looker：Google Cloud 將推出數項預覽版的新功能，可輕鬆地將數據虛擬服務專員整合到您的工作流程中。我們亦加入了與 Google Workspace 整合的新一代生成式 AI 功能，可讓您與業務資料進行對話。
以 AI 驅動的功能加強網絡安全態勢
安全虛擬服務專員在網絡安全生命週期的每個階段均能提供協助，因此生成式 AI 具有龐大潛力，讓防禦者在網絡保安方面佔優勢。在 Google Cloud 安全產品組合中，我們新增了多項功能，以提供更強的保安並使每個機構都能讓 Google 成為他們保安團隊一員，當中包括：
- Gemini in Threat Intelligence：使用自然語言技術，針對有關網絡威脅發動者的行為提供深入見解。透過 Gemini，我們能夠分析更大量的潛在惡意程式碼樣本。Gemini 更大的內容視窗能分析模組之間的互動，為程式碼的真實意圖提供新的見解。
- Gemini in Security Operations：全新的輔助偵查功能可處理自然語言指令，將其轉換為啟動偵測、總結事件資料和建議採取行動等行為，並透過自然對話協助使用者瀏覽平台。
使用 Google Workspace 提高工作效率
透過 Gemini for Workspace，企業可直接在 Gmail、Google 文件和試算表等產品中，使用內建的 AI 虛擬服務專員。現在，Google Cloud 宣布推出 Gemini for Google Workspace 的下一批創新與強化功能，其中包括：
- Google Vids：這款全新為工作而設、結合影片編寫、製作與編輯功能的 AI 影片創作應用程式，集結所有功能於一身。它可以建立分鏡圖，讓您能輕鬆進行編輯。當使用者選擇好風格後，它會將庫存影片中的建議片段、圖像和背景音樂拼湊在一起，為企業製作好初稿。它還可以選擇預設的旁白或使用者自己的旁白，幫助企業挑選出最合適的一款，以有效傳達訊息。Vids 將加入其他 Workspace 應用程式（如文件、試算表和投影片）之列。它擁有一個簡單易用的介面，並能透過瀏覽器安全地協作和共享專案。Vids 將於 6 月正式於 Workspace Labs 內推出。
- AI Meetings and Messaging 外掛程式：這項協作工具提供「幫我記錄」與即時通訊摘要功能，以及支援 69 種語言（相當於 4,600 種語言組合）的即時翻譯功能，每月每名用戶只需付 10 美元。
- 全新 AI Security 外掛程式：Workspace 管理員現在能使用專為其機構訓練、具保護私隱功能的 AI 模型與資料外洩防護控制，來自動分類和保護機密檔案與資料。AI Security 外掛程式的價格為每月每名使用者 10 美元，可加入到大多數 Workspace 方案中。
相關網誌： Welcome to Google Cloud Next ‘24 by Thomas Kurian, CEO of Google Cloud