亞馬遜網路服務 (Amazon Web Services, AWS) 宣布了一些改進,來增強其完全管理的生成式人工智慧服務——亞馬遜基石 (Amazon Bedrock)。
這些更新包括來自多位人工智慧先驅的新基礎模型、加強的數據處理能力,以及旨在提升推理效率的功能。
AWS 的人工智慧與數據副總裁斯瓦米·希瓦蘇布拉馬尼安 (Swami Sivasubramanian) 表示:「隨著客戶爭相使用亞馬遜基石,這項服務的增長速度非常快,因為它提供了眾多領先模型、簡易與數據自訂的工具、內建的負責任人工智慧功能,以及開發複雜代理的能力。」
「透過這組新功能,我們讓客戶能夠開發更智能的人工智慧應用程式,為最終用戶提供更大價值。」
亞馬遜基石擴展模型多樣性
AWS 將成為首個雲端服務提供商,提供來自人工智慧開發者 Luma AI 和 poolside 的模型,同時也會整合 Stability AI 的最新發布。
透過新的亞馬遜基石市場 (Amazon Bedrock Marketplace),客戶將能夠獲得來自各行各業超過 100 種新興和專業模型,以確保他們可以選擇最適合自己需求的工具。
Luma AI 以推進視頻內容創作的生成式人工智慧而聞名,將其下一代 Ray 2 模型引入亞馬遜基石。這個模型能夠從文本或圖像輸入生成高品質、逼真的視頻,並允許組織在時尚、建築和圖形設計等領域創造詳細的輸出。AWS 作為這個模型的首個提供者,確保企業能夠以流暢的工作流程來嘗試新的攝影角度、電影風格和穩定的角色。
poolside 的 malibu 和 point 模型旨在解決現代軟體工程的挑戰,專注於代碼生成、測試、文檔和即時代碼補全。最重要的是,開發者可以安全地使用自己的私有數據集來微調這些模型。搭配 Assistant 這個開發環境整合工具,poolside 的工具使工程團隊能夠加速生產力、更快地交付專案,並提高準確性。
亞馬遜基石的客戶將很快獲得 Stability AI 的文本轉圖像模型 Stable Diffusion 3.5 Large。這個新增功能支持企業在遊戲、廣告和零售等領域創造高品質的視覺媒體。
透過基石市場,AWS 還提供超過 100 種專業模型,這些模型針對生物學 (EvolutionaryScale 的 ESM3 生成模型)、金融數據 (Writer 的 Palmyra-Fin) 和媒體 (Camb.ai 的文本轉音頻 MARS6) 等領域量身打造。
全球客戶服務軟體公司 Zendesk 利用基石市場通過 AI 驅動的本地化和情感分析工具來個性化電子郵件和社交渠道的支持。例如,他們使用像 Widn.AI 的模型來根據客戶母語的實時情感調整回應。
擴大推理的亞馬遜基石新功能
大規模的生成式人工智慧應用程式需要平衡推理過程中的成本、延遲和準確性。AWS 正在通過兩個新的亞馬遜基石功能來解決這個挑戰:
新的快取功能通過安全存儲經常使用的查詢來減少冗餘的提示處理,這樣可以節省時間和成本。這個功能可以實現高達 90% 的成本減少和 85% 的延遲降低。舉例來說,Adobe 將提示快取整合到其 Acrobat AI 助手中,用於總結文件和回答問題,初步測試中實現了 72% 的回應時間減少。
智能提示路由功能會動態將提示指向最合適的基礎模型,以優化成本和質量。像 Argo Labs 這樣的客戶已經受益於此,他們專注於為餐廳建立對話式語音 AI 解決方案。簡單的查詢(例如訂位)由較小的模型處理,而更複雜的請求(例如特定飲食的菜單問題)則會智能路由到較大的模型。Argo Labs 使用智能提示路由不僅改善了回應質量,還將成本降低了高達 30%。
數據利用:知識庫和自動化
生成式人工智慧的一大吸引力在於它能從數據中提取價值。AWS 正在增強其亞馬遜基石知識庫,以確保組織能夠使用自己獨特的數據集來提供更豐富的 AI 驅動用戶體驗。
AWS 引入了結構化數據檢索的能力,這項增強功能使客戶能夠通過自然語言提示查詢存儲在 Amazon 服務(如 SageMaker Lakehouse 和 Redshift)中的數據,並將結果轉換回 SQL 查詢。信用智能公司 Octus 計劃利用這一功能為客戶提供動態的自然語言報告,針對其結構化金融數據。
通過整合自動化圖形建模(由 Amazon Neptune 提供支持),客戶現在可以生成和連接關聯數據,以加強 AI 應用程式。例如,BMW 集團將使用 GraphRAG 來增強其虛擬助手 MAIA,這個助手利用 BMW 的大量內部數據來提供全面的回應和高品質的用戶體驗。
此外,AWS 還推出了亞馬遜基石數據自動化工具,該工具將非結構化內容(例如,文檔、視頻和音頻)轉換為結構化格式,以便於分析或檢索增強生成(RAG)。像 Symbeo(自動理賠處理)和 Tenovos(數字資產管理)這樣的公司已經在試點這個工具,以提高運營效率和數據重用。
亞馬遜基石生態系統的擴展反映出其日益增長的受歡迎程度,該服務在過去一年中客戶基數增長了 4.7 倍。Adobe、BMW、Zendesk 和 Tenovos 等行業領導者都採用了 AWS 的最新創新,以提升他們的生成式人工智慧能力。
大多數新宣布的工具,如推理管理、具有結構化數據檢索的知識庫和 GraphRAG,目前都處於預覽階段,而來自 Luma AI、poolside 和 Stability AI 的顯著模型發布預計也將很快推出。
想了解更多有關行業領導者的人工智慧和大數據嗎?請查看即將在阿姆斯特丹、加州和倫敦舉行的 AI 與大數據博覽會。這個綜合性活動與其他領先活動同時舉行,包括智能自動化會議、BlockX、數字轉型週和網絡安全及雲端博覽會。
探索其他即將舉行的企業技術活動和由 TechForge 提供的網絡研討會。
本文由 AI 台灣 運用 AI 技術編撰,內容僅供參考,請自行核實相關資訊。
歡迎加入我們的 AI TAIWAN 台灣人工智慧中心 FB 社團,
隨時掌握最新 AI 動態與實用資訊!