我們在 AWS re:Invent 2024 會議後不久，與資料與人工智慧副總裁 Swami Sivasubramanian 博士進行了對話，聽聽他的看法，以及最新的 AWS 創新如何幫助客戶滿足現實世界的需求，建構和擴展變革性的生成式人工智慧應用。
Q: 這次 re:Invent 有什麼不同之處？
Swami Sivasubramanian: 我在 re:Invent 主題演講中提到的主題是簡單卻強大——融合。我相信我們正處於人工智慧演變的關鍵時刻。我們看到資料、分析和生成式人工智慧的驚人融合。這種結合使得下一階段的生成式人工智慧應用變得更加強大。它讓我們的客戶能夠更快地行動，並以更顯著的方式獲得更多價值。像 Rocket Mortgage 這樣的公司正在利用 Amazon Bedrock 建立 AI 驅動的平台，創造 AI 代理並自動化任務，讓員工能夠使用無需編碼的工具來接觸生成式人工智慧。Canva 每天使用 AWS 處理 120 萬個請求，每秒創造 450 個新設計。融合還有一個人性化的方面，組織內的人們以新的方式合作，這需要科學和工程團隊之間更深層次的協作。而這不僅僅是一次性的合作，而是一個持續的過程。
隨著生成式人工智慧的發展，人們對應用程式和客戶體驗的期望再次改變。我認為，生成式人工智慧推理將成為每個應用程式的核心基石。為了實現這個未來，組織需要的不僅僅是一個聊天機器人或一個強大的大型語言模型 (LLM)。在 re:Invent 上，我們當然也宣布了一些關於生成式人工智慧未來的令人興奮的消息。我們還推出了一系列新的產品、功能和特性，幫助客戶在大規模上管理生成式人工智慧，讓控制成本、建立信任、提高生產力和實現投資回報變得更容易。
Q: 有哪些關鍵創新是基於亞馬遜在採用生成式人工智慧方面的經驗和教訓？你們如何將這些能力帶給客戶？
Swami Sivasubramanian: 是的，我們宣布的 Amazon Nova 是一種新一代基礎模型 (FMs)，在各種任務中擁有最先進的智能和行業領先的價格性能。Amazon Nova 模型擴展了 Amazon Bedrock 中可用的最廣泛和最強大的 FMs 選擇。Amazon Nova Micro、Lite 和 Pro 的具體能力展現了卓越的智能、能力和速度，並在各自類別中與最佳模型競爭。Amazon Nova Canvas，我們最先進的圖像生成模型，能夠從文本和圖像輸入中創建專業級圖像，讓廣告、培訓、社交媒體等領域的生產級視覺內容變得更容易獲得。最後，Amazon Nova Reel 提供最先進的視頻生成，讓客戶能夠從文本或圖像創建高品質視頻。在亞馬遜內部有大約 1,000 個生成式人工智慧應用正在運行，像亞馬遜廣告這樣的團隊正在利用 Amazon Nova 消除賣家和廣告商的障礙，促進創造力和創新。新的圖像和視頻生成能力幫助亞馬遜廣告的客戶在其目錄中推廣更多產品，並嘗試新的策略，如關鍵字級創意，以提高參與度和推動銷售。
但未來還有更多，這裡發生了一個重要的變化。我們正在開發一種更強大的任意對任意模型，您可以提供文本、圖像、音頻和視頻作為輸入，模型可以生成任何這些模態的輸出。我們認為這種多模態的方法將是模型未來的發展方向，讓一個模型能夠接受任何類型的輸入並生成任何類型的輸出。隨著時間的推移，我認為這將是最先進模型的樣子。
Q: 說到像 Amazon Nova 這樣的公告，你多年來一直是人工智慧的關鍵創新者。什麼持續激勵著你？
Swami Sivasubramanian: 想到大型語言模型 (LLMs) 的能力真是令人著迷。不過，最激勵我的還是我們如何幫助客戶解決他們面臨的挑戰，實現潛力。以幻覺為例。儘管當今的模型非常強大，但它們偶爾仍會出錯。這是許多客戶在將生成式人工智慧整合到他們的業務並進入生產時所面臨的挑戰。我們探討了這個問題，並問自己是否能做更多的幫助。我們向內部尋求，利用自動推理，這是一種亞馬遜在許多服務中使用的技術，如身份和訪問管理。
我喜歡把這種情況看作是陰陽。自動推理是關於確定性和能夠數學證明某事是正確的。生成式人工智慧則是關於創造力和開放式反應。雖然它們看起來像是對立的，但實際上是互補的，自動推理補充並增強了生成式人工智慧。我們發現，自動推理在處理大範圍的問題、擁有該問題領域的知識體系時，並且在獲得正確答案至關重要時，效果非常好，這使得自動推理非常適合解決幻覺問題。
在 re:Invent 上，我們宣布了 Amazon Bedrock Guardrails 自動推理檢查——第一個也是唯一一個生成式人工智慧的安全措施，幫助防止因幻覺而導致的事實錯誤。這一切都是通過使用邏輯上準確且可驗證的推理來解釋為什麼生成式人工智慧的反應是正確的。我認為這是一項將對各組織和行業產生重大影響的創新，幫助建立信任並加速生成式人工智慧的採用。
Q: 控制成本對所有組織來說都很重要，無論大小，特別是在將生成式人工智慧應用投入生產時。re:Invent 上的公告如何滿足這一需求？
Swami Sivasubramanian: 和我們的客戶一樣，亞馬遜也在增加對生成式人工智慧開發的投資，正在進行多個項目——所有項目都需要及時訪問加速計算資源。但將最佳計算能力分配給每個項目可能會造成供需挑戰。為了解決這一挑戰，我們創建了一個內部服務，幫助亞馬遜將計算資源的利用率提高到 90% 以上。這項服務使我們能夠平衡各項目的需求，實現更高的容量利用率，加快開發速度。
與自動推理一樣，我們意識到客戶也會從這些能力中受益。因此，在 re:Invent 上，我宣布了 Amazon SageMaker HyperPod 中的新任務治理能力，幫助客戶優化計算資源的利用率，將上市時間縮短多達 40%。通過這項能力，用戶可以在端到端的 FM 工作流程中動態運行任務——加速 AI 創新上市的時間，同時避免因計算資源未充分利用而造成的成本超支。
我們的客戶還告訴我，模型的成本和準確性之間的權衡是真實存在的。我們通過讓客戶在 Amazon Bedrock 上輕鬆評估模型來滿足這一需求，這樣他們就不必花幾個月的時間進行研究和比較。我們還通過像 Amazon Bedrock 模型蒸餾這樣的革命性能力來降低成本，這可以將模型配對以降低成本；Amazon Bedrock 智能提示路由，這可以更高效地管理提示，並且可以擴展；以及提示緩存，這可以在不妨礙準確性的情況下減少重複處理。
Q: 提高生產力是生成式人工智慧的核心承諾之一。AWS 如何幫助各級員工提高生產力？
Swami Sivasubramanian: 我喜歡指出，當生成式人工智慧讓員工的生產力提高十倍時，這是無法抗拒的。簡而言之，這不是增量的提高，而是生產力的重大飛躍。我們正在幫助員工達成這一目標。例如，Amazon Q 開發者正在改變代碼開發，處理開發人員不想面對的耗時工作，如軟體升級。它還通過自動化代碼審查和處理主機現代化來幫助他們更快地工作。考慮一下 Novacomp，這是一家拉丁美洲領先的 IT 公司，利用 Amazon Q 開發者在僅 50 分鐘內升級了一個超過 10,000 行 Java 代碼的項目，而這項任務通常需要估計 3 週的時間。該公司還簡化了開發人員的日常任務，平均減少了 60% 的技術負擔。
在商業方面，Amazon Q 商業正在彌合非結構化數據和結構化數據之間的差距，認識到大多數企業需要從混合數據中提取信息。通過 Amazon Q 在 QuickSight 中，非技術用戶可以利用自然語言在幾秒鐘內建立、發現和分享有意義的見解。現在，他們可以訪問數據庫和數據倉庫，以及非結構化的商業數據，如電子郵件、報告、圖表、圖形和圖像。
展望未來，我們宣布了 Amazon Q 商業的先進代理能力，將於 2025 年推出，這將使用代理來自動化跨多個團隊和應用的複雜任務。代理為生成式人工智慧應用提供了下一級的能力，我們通過 Amazon Q 商業以及 Amazon Bedrock 多代理協作將其帶給客戶，這提高了成功完成任務的概率，超過流行解決方案的 40%。這一重大改進在自動化客戶支持、分析財務數據以進行風險管理或優化供應鏈物流等用例中，轉化為更準確和更具人性化的結果。
這一切都是我們今天如何實現更高生產力的一部分，未來還有更多。
Q: 為了讓員工和客戶採用生成式人工智慧並從中受益，必須建立信任。AWS 正在採取什麼措施來幫助建立這種信任？
Swami Sivasubramanian: 我認為缺乏信任是從概念驗證轉向生產的一個重大障礙。商業領導者即將啟動，但他們猶豫不決，因為他們不想失去客戶的信任。隨著生成式人工智慧在各行各業和我們日常生活中持續推動創新，對負責任的人工智慧的需求變得越來越迫切。我們正在通過像 Amazon Bedrock 自動推理這樣的創新來滿足這一需求，這可以防止幻覺的發生，並增加信任。我們還宣布了新的 LLM 作為評估者的能力，通過 Amazon Bedrock 模型評估，您現在可以以人類般的質量進行測試和評估其他模型，成本和時間都大幅降低。這些評估評估多個質量維度，包括正確性、有用性，以及負責任的人工智慧標準，如拒絕回答和有害性。
我還應該提到，AWS 最近成為第一個宣布 AI 服務 ISO/IEC 42001 認證的主要雲服務提供商，涵蓋 Amazon Bedrock、Amazon Q 商業、Amazon Textract 和 Amazon Transcribe。這一國際管理系統標準概述了促進 AI 系統負責任開發和使用的要求和控制。像 ISO/IEC 42001 這樣的技術標準非常重要，因為它們為負責任的 AI 開發和部署提供了急需的共同框架。
Q: 數據仍然是建立更個性化體驗的核心，適用於您的業務。re:Invent 的推出如何幫助 AWS 客戶為生成式人工智慧準備數據？
Swami Sivasubramanian: 生成式人工智慧對於組織來說不會有用，除非它能夠無縫訪問並深入理解組織的數據。通過這些見解，我們的客戶可以創建定制的體驗，例如高度個性化的客戶服務代理，可以幫助服務代表更快地解決問題。對於 AWS 客戶來說，為生成式人工智慧準備數據不僅僅是一個技術挑戰，而是一個戰略必要。專有的高品質數據是將通用 AI 轉變為強大商業特定應用的關鍵區別因素。為了準備這個 AI 驅動的未來，我們正在幫助客戶建立一個強大的基於雲的數據基礎，並內建安全性和隱私。這是 AI 準備的基石。
在 re:Invent 上宣布的下一代 Amazon SageMaker，我們推出了一個集成的體驗，讓您可以訪問、管理和處理所有數據，通過將廣泛採用的 AWS 數據、分析和 AI 能力整合在一起。使用熟悉的 AWS 工具進行模型開發、生成式人工智慧、數據處理和 SQL 分析，從統一的工作室中更快地協作和構建——Amazon Q 開發者在這個過程中協助您。無論數據存儲在數據湖、數據倉庫、第三方或聯邦數據源中，您都可以訪問所有數據。並且，憑藉內建的治理來滿足企業安全需求，您可以自信且信任地行動。
在 re:Invent 上，我們還推出了幾個關鍵的 Amazon Bedrock 能力，幫助客戶最大化他們數據的價值。Amazon Bedrock 知識庫現在提供唯一的管理型即時檢索增強生成 (RAG) 解決方案，使客戶能夠在其結構化數據所在的位置進行本地查詢，加速開發。對 GraphRAG 的支持通過建模和存儲數據之間的關係來生成更相關的響應。Amazon Bedrock 數據自動化將非結構化的多模態數據轉換為結構化數據以供生成式人工智慧使用——自動提取、轉換和生成可用數據，並且可以擴展。這些能力和更多幫助我們的客戶利用他們的數據創建強大且有洞察力的生成式人工智慧應用。
Q: 在 re:Invent 上與客戶的對話中，你得到了什麼啟發？
Swami Sivasubramanian: 我繼續對我們的客戶及其重要工作感到驚訝和受到啟發。我們繼續為客戶提供他們需要的選擇和專業知識，以支持他們獨特的用例。通過 Amazon Bedrock 市場，客戶現在可以訪問超過 100 種流行、新興和專業模型。
在 re:Invent 上，我聽到了很多關於客戶創造的新效率和變革性體驗的故事。我還聽到了改變人們生活的創新。比如 Exact Sciences，一家分子診斷公司，利用 Amazon Bedrock 開發了一個 AI 驅動的解決方案，將基因測試和分析的速度提高了 50%。在這個數字背後，實際上有一個人類價值——使癌症早期檢測和個性化治療計劃成為可能。這只是成千上萬個故事中的一個，因為我們的客戶在不斷提升和加速，取得了驚人的成果，改變了行業並改善了生活。
當我想到我們如何幫助教育下一波創新者建立這些體驗時，我感到興奮。隨著新教育公平倡議的推出，亞馬遜承諾投入高達 1 億美元的雲技術和技術資源，幫助現有的專注學習組織通過創建新的創新數字學習解決方案來接觸更多學習者。這對我來說真是令人鼓舞。
事實上，變革的速度、我們在 re:Invent 上推出的驚人創新以及客戶的熱情都讓我想起了 AWS 的早期日子，那時一切似乎都是可能的。而現在，這一切依然如此。
關於作者
Swami Sivasubramanian 是 AWS AI 和數據的副總裁。在這個角色中，Swami 監督所有 AWS 數據庫、分析和 AI 及機器學習服務。他的團隊使命是幫助組織充分利用其數據，提供完整的端到端數據解決方案，以存儲、訪問、分析、可視化和預測。
本文由 AI 台灣 運用 AI 技術編撰，內容僅供參考，請自行核實相關資訊。
歡迎加入我們的 AI TAIWAN 台灣人工智慧中心 FB 社團，
隨時掌握最新 AI 動態與實用資訊！
