新Clarifai工具協調任何基礎設施上的AI

Clarifai推出人工智慧運算協調新功能

人工智慧平台提供商Clarifai最近推出了一項新的運算協調能力，這能幫助企業優化它們的人工智慧工作負載，降低成本並避免被特定供應商鎖住。

這項功能在2024年12月3日宣布公眾預覽版，讓組織可以透過統一的控制平面來協調人工智慧工作負載，無論這些工作負載是在雲端、本地或是隔離的基礎設施上運行。這個平台可以與任何人工智慧模型和硬體加速器一起運作，包括GPU、CPU和TPU。

Clarifai的創辦人暨執行長Matt Zeiler表示：「Clarifai一直走在前面，擁有超過十年的經驗，支持大型企業和關鍵政府任務的需求，提供完整的人工智慧工具來創建自定義的人工智慧工作負載。現在，我們正在開放內部開發的能力，以優化我們的運算成本，讓我們能同時服務數百萬個模型。」

該公司聲稱，它的平台可以通過模型包裝優化將運算使用量降低3.7倍，同時支持每秒超過160萬次的推理請求，並擁有99.9997%的可靠性。根據Clarifai的說法，這些優化可能會根據配置降低60%到90%的成本。

運算協調平台的功能包括：

• 通過自動資源管理進行成本優化，包括模型包裝、依賴簡化和可自定義的自動擴展選項，可以將模型副本和計算節點的擴展縮減至零。
• 在任何硬體供應商上進行靈活部署，包括雲端、本地、隔離和Clarifai的SaaS基礎設施。
• 與Clarifai的人工智慧平台整合，用於數據標註、訓練、評估、工作流程和反饋。
• 安全功能，允許在客戶的虛擬私有雲（VPC）或本地的Kubernetes集群中部署，而不需要開放入站端口、VPC對等或自定義IAM角色。

這個運算協調平台的推出源自Clarifai客戶在人工智慧性能和成本上的問題。客戶在Clarifai的公告中提到：「如果我們能夠從整體上考慮這個問題，並比較我們本地的成本與雲端成本，然後能夠根據成本基礎在不同環境之間進行協調，那將是非常有價值的。」

運算協調能力是在Clarifai現有的人工智慧平台上建立的，該平台據該公司所述，已經處理了超過20億次的計算機視覺、語言和音頻人工智慧操作。該公司報告維持99.99%以上的正常運行時間和24/7的關鍵應用可用性。

目前，運算協調能力已經在公眾預覽中提供。有興趣測試該平台的組織應該聯繫Clarifai以獲取訪問權限。