CMU 研究人員推出 TNNGen：一個自動化設計時間神經網絡 (TNN) 的 AI 框架，從 PyTorch 軟體模型到後佈局網路清單

設計基於時間神經網絡 (Temporal Neural Networks, TNNs) 的神經形態感測處理單元 (Neuromorphic Sensory Processing Units, NSPUs) 是一項非常具有挑戰性的任務，因為這需要手動和勞動密集的硬體開發過程。TNNs 被認為在即時邊緣人工智慧 (Edge AI) 應用中非常有前景，主要是因為它們能效高且受到生物啟發。然而，現有的方法缺乏自動化，並且不太容易接觸。因此，設計過程變得複雜、耗時，並需要專業知識。克服這些挑戰後，才能充分發揮 TNNs 在感測信號高效和可擴展處理方面的潛力。

目前對 TNN 的開發方法是分散的工作流程，因為軟體模擬和硬體設計是分開處理的。像 ASAP7 和 TNN7 的庫雖然在某些硬體方面提高了效率，但仍然是專有工具，需要相當的專業知識。這種過程的分散限制了可用性，阻礙了設計配置的輕鬆探索，並且無法用於更具應用特定的快速原型或大規模部署。

卡內基梅隆大學 (Carnegie Mellon University) 的研究人員推出了 TNNGen，這是一個統一且自動化的框架，用於設計基於 TNN 的 NSPUs。這項創新在於將基於軟體的功能模擬與硬體生成整合在一個簡化的工作流程中。它結合了一個基於 PyTorch 的模擬器，模擬尖峰時間動態並評估應用特定指標，與一個硬體生成器，使用 PyVerilog 自動生成 RTL 和佈局設計。通過利用 TNN7 自訂宏和整合多種庫，這個框架在模擬速度和實體設計上實現了顯著的提升。此外，它的預測能力能夠準確預測矽材質量，從而減少對計算需求高的 EDA 工具的依賴。

TNNGen 主要圍繞兩個元素組織。功能模擬器使用 PyTorch 構建，支持可調整的 TNN 配置，允許快速檢查各種模型架構。它具備 GPU 加速和準確的尖峰時間建模，確保高模擬速度和準確性。硬體生成器則將 PyTorch 模型轉換為優化的 RTL 和實體佈局。使用 TNN7 和自訂 TCL 腳本等庫，它自動化合成和放置路由過程，並與多個技術節點（如 FreePDK45 和 ASAP7）兼容。

TNNGen 在聚類準確性和硬體效率方面表現優異。針對時間序列聚類任務的 TNN 設計顯示出與最佳深度學習技術的競爭性能，同時大幅降低計算資源的使用。這種方法帶來了重大的能效改善，與傳統方法相比，減少了晶片面積和漏電功率。此外，設計的運行時間大幅縮短，尤其是對於較大的設計，這些設計最能受益於優化的工作流程。此外，全面的預測工具提供準確的硬體參數估算，使研究人員能夠在不進行實體硬體程序的情況下評估設計的可行性。綜合來看，這些發現使 TNNGen 成為簡化和加速創建能效神經形態系統的可行方法。

TNNGen 是基於 TNN 的 NSPUs 完全自動化開發的下一步，將模擬和硬體生成統一為一個可接觸且高效的框架。這種方法解決了手動設計過程中的關鍵挑戰，並使這個工具對於邊緣 AI 應用變得更具可擴展性和可用性。未來的工作將涉及擴展其能力，以支持更複雜的 TNN 架構和更廣泛的應用，成為可持續神經形態計算的關鍵推動者。

查看論文。這項研究的所有功勞都歸於這個項目的研究人員。此外，別忘了在 Twitter 上關注我們，加入我們的 Telegram 頻道和 LinkedIn 群組。還有，別忘了加入我們的 60k+ ML SubReddit。

🚨 熱門消息：LG AI 研究發布 EXAONE 3.5：三個開源雙語前沿 AI 模型提供無與倫比的指令跟隨和長上下文理解，為生成 AI 卓越的全球領導地位提供支持……。