總結年度人工智慧的進展

編輯的註解：這篇文章是 AI 解碼系列的一部分，旨在讓 AI 技術更易於理解，並展示 GeForce RTX 電腦和 NVIDIA RTX 工作站用戶的新硬體、軟體、工具和加速技術。

在過去的一年中，AI 解碼系列已經解釋了所有與 AI 相關的事物——從簡化大型語言模型 (LLMs) 的複雜性到突顯 RTX AI 電腦和工作站的強大功能。

回顧最新的 AI 進展，這篇文章強調了這項技術如何改變人們的寫作、遊戲、學習和在線互動方式。

NVIDIA GeForce RTX 顯示卡提供了在電腦筆記型電腦、桌上型電腦和工作站上實現這些體驗的強大能力。它們擁有專門的 AI 張量核心，能夠提供每秒超過 1,300 兆次運算 (TOPS) 的處理能力，讓遊戲、創作、日常工作等方面的表現更為出色。對於工作站來說，NVIDIA RTX 顯示卡提供超過 1,400 TOPS，使 AI 加速和效率達到新高度。

利用 AI 聊天機器人提升生產力和創造力

AI 解碼在今年早些時候探討了什麼是 LLMs、它們的重要性以及如何使用它們。

對許多人來說，像 ChatGPT 這樣的工具是他們第一次接觸 AI。基於 LLM 的聊天機器人將計算機的互動從基本的規則式對話轉變為動態的對話。它們可以建議度假點子、撰寫客服電子郵件、創作原創詩歌，甚至為用戶編寫程式碼。

在三月推出的 ChatRTX 是一個演示應用程式，讓用戶可以用自己的內容（如文件、筆記和圖片）個性化 GPT LLM。

憑藉檢索增強生成 (RAG)、NVIDIA TensorRT-LLM 和 RTX 加速等功能，ChatRTX 使得用戶能夠快速搜索和詢問自己的數據。由於該應用程式在 RTX 電腦或工作站上本地運行，結果既快速又私密。

NVIDIA 提供了最廣泛的基礎模型供愛好者和開發者使用，包括 Gemma 2、Mistral 和 Llama-3。這些模型可以在 NVIDIA GeForce 和 RTX 顯示卡上本地運行，實現快速、安全的性能，而無需依賴雲服務。

今天就下載 ChatRTX。

介紹 RTX 加速的合作夥伴應用程式

AI 正在越來越多的應用程式和使用案例中被整合，包括遊戲、內容創作應用、軟體開發和生產力工具。

這一擴展得益於廣泛的 RTX 加速開發者和社區工具、軟體開發套件、模型和框架，使得在流行應用程式中本地運行模型變得比以往任何時候都容易。

AI 解碼在十月重點介紹了 Brave 瀏覽器的 Leo AI，該技術由 NVIDIA RTX 顯示卡和開源 Ollama 平台提供支持，使用戶能夠在自己的 RTX 電腦或工作站上直接運行本地 LLMs，如 Llama 3。

這種本地設置提供快速、靈敏的 AI 性能，同時保持用戶數據的私密性——無需依賴雲端。NVIDIA 對 Ollama 等工具的優化，為總結文章、回答問題和提取見解等任務提供了加速性能，所有這些都可以在 Brave 瀏覽器內完成。用戶可以在本地和雲端模型之間切換，提供靈活性和對 AI 體驗的控制。

有關如何通過 Ollama 添加本地 LLM 支持的簡單說明，請閱讀 Brave 的部落格。一旦配置指向 Ollama，Leo AI 將使用本地托管的 LLM 來處理提示和查詢。

Agentic AI — 啟用複雜問題解決

Agentic AI 是 AI 的下一個前沿，能夠使用複雜的推理和迭代計劃，自主解決複雜的多步問題。

AI 解碼探討了 AI 社區如何實驗這項技術，以創造更智能、更有能力的 AI 系統。

像 AnythingLLM 這樣的合作夥伴應用展示了 AI 如何超越簡單的問答，提升生產力和創造力。用戶可以利用該應用部署內置代理，處理如網頁搜索或安排會議等任務。

用戶在 AnythingLLM 中調用 AI 代理以完成網頁搜索查詢的示例。

AnythingLLM 讓用戶通過直觀的界面與文檔互動，利用 AI 代理自動化複雜任務，並在本地運行先進的 LLMs。利用 RTX 顯示卡的強大性能，它提供更快、更智能和更靈敏的 AI 工作流程——所有這些都在單一的本地桌面應用程式中。該應用程式還可以離線運行，快速且私密，能夠使用本地數據和工具，這些通常在基於雲的解決方案中無法訪問。

AnythingLLM 的社區中心讓任何人都能輕鬆訪問系統提示，幫助他們引導 LLM 行為，發現提升生產力的斜線命令，並為獨特的工作流程和自定義工具構建專門的 AI 代理技能。

通過讓用戶在自己的系統上運行 agentic AI 工作流程並保持完全私密，AnythingLLM 促進了創新，並使實驗最新技術變得更容易。