朝向時間序列推理與大型語言模型

多模態大型語言模型 (MLLMs) 的進展

多模態大型語言模型 (MLLMs) 讓我們在理解和推理方面有了很多進步，特別是在視覺領域。不過，對於時間序列的應用，我們還沒有看到這麼大的成功。雖然之前的研究在時間序列預測上顯示出不錯的表現，但很少有研究展示大型語言模型 (LLM) 如何用於自然語言中的時間序列推理。

我們的創新方法

我們提出了一種新穎的多模態時間序列 LLM 方法，這種方法能夠在不同領域中學習可泛化的資訊，並且具有強大的零樣本表現。首先，我們在大型語言模型的基礎上訓練了一個輕量級的時間序列編碼器，以直接提取時間序列資訊。接著，我們使用增強思考鏈的時間序列任務來微調我們的模型，這樣可以鼓勵模型生成推理路徑。

模型的表現

我們的研究顯示，我們的模型學會了一種潛在的表示方式，能夠反映特定的時間序列特徵，例如斜率和頻率。此外，我們的模型在各種領域的零樣本推理任務中，表現超過了 GPT-4o。