生成式人工智慧正在重新定義計算方式,開啟了在個人電腦和工作站上建立、訓練和優化人工智慧模型的新方法。從內容創作到大型和小型語言模型,再到軟體開發,搭載人工智慧的個人電腦和工作站正在改變工作流程,提升生產力。
在2025年GTC大會上,將於3月17日至21日在聖荷西會議中心舉行,來自人工智慧生態系統的專家將分享如何在本地部署人工智慧、優化模型,以及利用尖端硬體和軟體來提升人工智慧工作負載的見解,並強調RTX人工智慧個人電腦和工作站的關鍵進展。
在RTX上開發和部署
RTX顯示卡擁有專門的人工智慧硬體,稱為張量核心(Tensor Cores),提供運行最新和最要求的人工智慧模型所需的計算性能。這些高性能的顯示卡可以幫助建立數位人類、聊天機器人、人工智慧生成的播客等。
擁有超過1億名GeForce RTX和NVIDIA RTX™顯示卡用戶,開發者在推出新的人工智慧應用程式和功能時,擁有龐大的目標受眾。在「為RTX個人電腦和工作站建立數位人類、聊天機器人和人工智慧生成的播客」的會議中,NVIDIA的高級產品經理Annamalai Chockalingam將展示開發者可以使用的端到端工具套件,以簡化開發並快速部署人工智慧應用程式。
模型行為
大型語言模型(LLMs)可以用於許多不同的用途,並能處理複雜的任務,如編寫程式碼或將日文翻譯成希臘文。但由於它們通常是用廣泛的知識訓練的,可能不適合特定任務,例如在視頻遊戲中生成非玩家角色的對話。相比之下,小型語言模型則在需求和大小之間取得平衡,能在更多設備上本地運行,同時保持準確性。
在「注意你的語言:創建可在設備上運行的小型語言模型」的會議中,NVIDIA的高級工程經理Oluwatobi Olabiyi將介紹開發者和愛好者可以使用的工具和技術,以生成、策劃和提煉數據集,然後訓練一個可以執行特定任務的小型語言模型。
在Windows工作站上最大化人工智慧性能
在基於Windows的工作站上優化人工智慧推理和模型執行需要針對不同的硬體配置和軟體環境進行策略性調整。會議「在Windows工作站上優化人工智慧工作負載:策略和最佳實踐」將探討人工智慧優化的最佳實踐,包括模型量化、推理管道增強和硬體感知調整。
NVIDIA的一組軟體工程師還將介紹針對ONNX Runtime、NVIDIA TensorRT和llama.cpp的硬體感知優化,幫助開發者在GPU、CPU和NPU上最大化人工智慧效率。
推進本地人工智慧開發
在本地基礎設施上建立、測試和部署人工智慧模型可以確保安全性和性能,即使沒有連接到雲端服務。在NVIDIA RTX顯示卡的加速下,Dell Pro Max AI和HP Z系列解決方案提供強大的本地人工智慧開發工具,幫助專業人士控制數據和知識產權,同時優化性能。
通過參加以下會議了解更多:
Dell Pro Max和NVIDIA:釋放人工智慧開發的未來:這場會議介紹了Dell Pro Max個人電腦,這些性能卓越的筆記型電腦和桌上型電腦由NVIDIA RTX顯示卡驅動。了解這對強大的組合如何幫助啟動人工智慧計畫,改變人工智慧開發者、數據科學家、創作者和高效能用戶的創新方式。
與HP Z系列GenAI實驗室和AI工作室一起開發和觀察本地生成式人工智慧:這場會議展示了HP Z系列解決方案如何簡化本地模型的訓練和部署,利用NVIDIA NGC目錄中的模型和Galileo評估技術,安全有效地完善生成式人工智慧項目。
使用HP Z系列GenAI實驗室和AI工作室超充生成式人工智慧開發:這場會議探討了HP Z系列的GenAI實驗室和AI工作室如何在保持數據安全和控制的同時,實現本地大型語言模型的開發。了解這些工具如何簡化整個人工智慧生命周期,從實驗到部署,同時整合NVIDIA NGC目錄中的模型,以提高協作和工作流程的效率。
開發者和愛好者可以使用NVIDIA NIM微服務在RTX人工智慧個人電腦和工作站上開始人工智慧開發。今天推出的初始公開測試版包括Llama 3.1大型語言模型、NVIDIA Riva Parakeet自動語音識別(ASR)和YOLOX計算機視覺。
NIM微服務是針對生成式人工智慧的優化預打包模型,涵蓋了對於個人電腦開發重要的多種模式,並且可以通過行業標準的應用程式介面輕鬆下載和連接。
參加GTC 2025
從NVIDIA創辦人兼首席執行官黃仁勳的主題演講,到超過1,000場啟發性的會議、300多個展覽、技術實作訓練和大量獨特的網絡活動——GTC將聚焦於人工智慧及其所有好處。
在Facebook、Instagram、TikTok和X上關注NVIDIA AI個人電腦,並通過訂閱RTX AI個人電腦電子報保持資訊更新。
本文由 AI 台灣 運用 AI 技術編撰,內容僅供參考,請自行核實相關資訊。
歡迎加入我們的 AI TAIWAN 台灣人工智慧中心 FB 社團,
隨時掌握最新 AI 動態與實用資訊!