谷歌 AI 發布 Gemma 3：輕量級多模態開放模型，實現高效和設備端 AI

在人工智慧的領域中，仍然存在兩個持續的挑戰。許多先進的語言模型需要大量的計算資源，這限制了小型組織和個別開發者的使用。此外，即使這些模型可用，它們的延遲和大小常常使其不適合在日常設備上使用，例如筆記型電腦或智慧型手機。還需要確保這些模型安全運行，進行適當的風險評估並內建安全措施。這些挑戰促使人們尋找既高效又廣泛可及的模型，而不會妥協性能或安全性。

Google AI 發布 Gemma 3：一系列開放模型

Google DeepMind 推出了 Gemma 3——一系列旨在解決這些挑戰的開放模型。Gemma 3 使用與 Gemini 2.0 相似的技術，設計為能在單個 GPU 或 TPU 上高效運行。這些模型有多種大小可供選擇——1B、4B、12B 和 27B，並提供預訓練和指令調整的變體。這個範圍讓使用者可以選擇最適合他們硬體和特定應用需求的模型，使更廣泛的社群能夠將 AI 融入他們的專案中。

技術創新和主要優勢

Gemma 3 的設計提供了幾個關鍵領域的實際優勢：

• 效率和可攜性：這些模型設計為能在普通硬體上快速運行。例如，27B 版本在評估中表現出色，仍然能在單個 GPU 上運行。
• 多模態和多語言能力：4B、12B 和 27B 模型能處理文本和圖像，讓應用程式能分析視覺內容和語言。此外，這些模型支持超過 140 種語言，對於服務多元的全球觀眾非常有用。
• 擴展的上下文窗口：Gemma 3 的上下文窗口為 128,000 個標記（1B 模型為 32,000 個標記），非常適合需要處理大量信息的任務，例如總結長篇文件或管理長時間的對話。
• 先進的訓練技術：訓練過程中融入了來自人類反饋的強化學習和其他後訓練方法，幫助模型的回應與使用者的期望保持一致，同時確保安全性。
• 硬體兼容性：Gemma 3 不僅針對 NVIDIA GPU 進行優化，還針對 Google Cloud TPU 進行調整，使其能在不同的計算環境中適應。這種兼容性有助於降低部署先進 AI 應用的成本和複雜性。

性能洞察和評估

Gemma 3 的早期評估顯示，這些模型在其大小類別中表現可靠。在一組測試中，27B 變體在相關排行榜上獲得了 1338 分，顯示其能在不需要大量硬體資源的情況下提供一致且高品質的回應。基準測試還顯示，這些模型在處理文本和視覺數據方面非常有效，部分得益於能夠管理高解析度圖像的視覺編碼器。

這些模型的訓練涉及大量多樣的文本和圖像數據集——最大的變體達到 14 兆個標記。這種全面的訓練計劃支持它們處理各種任務的能力，從語言理解到視覺分析。早期 Gemma 模型的廣泛採用，以及活躍的社群已經產生了許多變體，強調了這種方法的實用價值和可靠性。

結論：對開放和可及 AI 的深思熟慮的做法

Gemma 3 代表著朝著讓先進 AI 更加可及的一個謹慎步驟。這些模型有四種大小，能夠處理文本和圖像，支持超過 140 種語言，並提供擴展的上下文窗口，優化了在日常硬體上的效率。它們的設計強調平衡——在提供強大性能的同時，還納入了確保安全使用的措施。

總之，Gemma 3 是解決 AI 部署長期挑戰的實用解決方案。它允許開發者將複雜的語言和視覺能力整合到各種應用中，同時強調可及性、可靠性和負責任的使用。

查看 Hugging Face 上的模型和技術細節。所有的研究都歸功於這個專案的研究人員。此外，歡迎在 Twitter 上關注我們，別忘了加入我們的 80k+ ML SubReddit。

🚨 認識 Parlant：一個以 LLM 為首的對話 AI 框架，旨在為開發者提供對其 AI 客戶服務代理的控制和精確度，利用行為指導和運行時監督。🔧 🎛️ 它使用易於使用的 CLI 📟 和 Python 及 TypeScript 的原生客戶端 SDK 📦 操作。