Q&A：生成式人工智慧的氣候影響 | 麻省理工學院新聞

Vijay Gadepally：MIT林肯實驗室的高效能計算專家

Vijay Gadepally是麻省理工學院林肯實驗室(MIT Lincoln Laboratory)的高級職員，他在林肯實驗室超級計算中心(LLSC)負責多個專案，目的是讓計算平台及其運行的人工智慧系統變得更有效率。在這裡，Gadepally談到生成式人工智慧在日常工具中的使用增加、其隱藏的環境影響，以及林肯實驗室和更大人工智慧社群可以如何減少排放，為更綠色的未來努力。

問：您觀察到生成式人工智慧在計算中有哪些趨勢？

答：生成式人工智慧利用機器學習(ML)根據輸入的數據創造新內容，例如圖像和文字。在LLSC，我們設計和建造一些世界上最大的學術計算平台，這幾年來，我們看到需要高效能計算的生成式人工智慧專案數量激增。我們也看到生成式人工智慧正在改變各種領域，例如ChatGPT已經在教室和工作場所的影響速度超過了規範的跟進速度。

在未來十年內，我們可以想像生成式人工智慧的各種用途，比如提供高效能的虛擬助手、開發新藥物和材料，甚至增進我們對基礎科學的理解。我們無法預測生成式人工智慧的所有用途，但可以肯定的是，隨著算法變得越來越複雜，它們的計算、能源和氣候影響將會迅速增長。

問：LLSC正在使用哪些策略來減少這種氣候影響？

答：我們一直在尋找讓計算更有效率的方法，這樣可以幫助我們的數據中心充分利用資源，並讓我們的科學同事以最有效的方式推進他們的研究。

例如，我們通過簡單的改變來減少硬體的電力消耗，就像離開房間時調暗或關閉燈一樣。在一個實驗中，我們通過設定電力上限，將一組圖形處理單元的能耗降低了20%到30%，而對性能的影響非常小。這種技術還降低了硬體的運行溫度，使GPU更容易冷卻且壽命更長。

另一個策略是改變我們的行為，使其更具氣候意識。在家裡，我們中的一些人可能會選擇使用可再生能源或智能排程。我們在LLSC也使用類似的技術，例如在氣溫較低或當地電網需求較低時訓練AI模型。

我們也意識到，計算過程中消耗的很多能源往往是浪費的，就像水漏了會增加你的水費卻對家裡沒有任何好處。我們開發了一些新技術，讓我們可以在計算工作負載運行時進行監控，然後終止那些不太可能產生良好結果的工作。令人驚訝的是，在許多情況下，我們發現大多數計算可以提前終止，而不影響最終結果。

問：您做過的哪個專案可以減少生成式人工智慧程式的能量輸出？

答：我們最近建造了一個氣候意識的計算機視覺工具。計算機視覺是一個專注於將AI應用於圖像的領域，例如區分圖像中的貓和狗、正確標記圖像中的物體，或尋找圖像中的感興趣的組件。

在我們的工具中，我們加入了實時碳排放監測，這會提供有關我們本地電網在模型運行時排放多少碳的信息。根據這些信息，我們的系統會自動在高碳強度時切換到更節能的模型版本，通常這個版本的參數較少，或在低碳強度時使用更高保真度的模型版本。

通過這樣做，我們在一到兩天內看到碳排放減少了近80%。我們最近將這個想法擴展到其他生成式人工智慧任務，如文本摘要，並得到了相同的結果。有趣的是，使用我們的技術後，性能有時甚至有所改善！

問：作為生成式人工智慧的消費者，我們可以做些什麼來幫助減少其氣候影響？

答：作為消費者，我們可以要求我們的AI提供商提供更多透明度。例如，在Google Flights上，我可以看到各種選項，顯示特定航班的碳足跡。我們應該從生成式人工智慧工具中獲得類似的測量，以便根據我們的優先事項做出明智的決定。

我們也可以努力更了解生成式人工智慧的排放。許多人對車輛排放很熟悉，將生成式人工智慧的排放進行比較會很有幫助。例如，人們可能會驚訝地發現，一次圖像生成任務大約相當於駕駛四英里汽油車，或充電一輛電動車所需的能量與生成約1,500個文本摘要的能量相同。

在許多情況下，顧客會樂於做出權衡，如果他們知道這些權衡的影響。

問：您對未來有什麼看法？

答：減少生成式人工智慧的氣候影響是全球各地人們都在努力解決的問題，並且有著相似的目標。我們在林肯實驗室做了很多工作，但這僅僅是冰山一角。從長遠來看，數據中心、AI開發者和能源網絡需要合作提供「能源審計」，以發現其他獨特的方法來提高計算效率。我們需要更多的合作夥伴關係和更多的合作，以便向前推進。

如果您有興趣了解更多或與林肯實驗室在這些努力上合作，請聯繫Vijay Gadepally。