ID-語言障礙：一個新的機器學習框架用於序列推薦

序列推薦系統在電子商務和串流服務等行業中非常重要。這些系統會收集和分析用戶的互動數據，以預測他們的喜好。然而，這些系統依賴的用戶和物品的ID表示法在轉移到新系統時會遇到一些問題。新系統會為相同的用戶和物品分配不同的ID，這樣就需要重新從頭訓練模型。此外，隨著用戶和物品的增長，這種基於ID的系統難以推廣，因為數據稀疏。這些問題導致性能不一致和擴展性限制。為了解決這些問題，中國華為公司、金融科技研究所和英國倫敦大學學院的土木、環境和測繪工程系的研究人員開發了IDLE-Adapter，這是一個新框架，可以彌補基於ID的系統和大型語言模型（LLMs）之間的差距。

現有的序列推薦系統主要依賴基於ID的嵌入學習來預測用戶的喜好。這些嵌入模型捕捉用戶的序列模式，並且對訓練數據集非常特定。這樣會造成一個高度偏見的系統，面臨跨域不兼容的問題。在新環境中，ID需要重新映射，這需要手動干預。因此，我們需要新的IDLE-Adapter框架，這個框架可以輕鬆整合到不同的平台中，無需手動干預，並且能高效擴展，維護成本低。為了實現這一點，IDLE-Adapter將大型語言模型的整體理解與基於ID的系統的特定領域知識相結合。

這個框架首先提取特定領域知識和用戶行為模式中的關鍵模式，然後將它們轉換為與語言模型兼容的密集表示。最重要的是確保不同數據格式的一致性，因此這些表示會通過簡單的轉換層與大型語言模型的維度對齊。這些對齊的表示現在被整合到大型語言模型的層中，將互動數據中的具體見解與對語言和上下文的更廣泛理解相結合。這個框架通過最小化差異來實現平滑整合，使其靈活且可適應。

性能比較顯示，這個框架在HitRate@5上比最先進的模型提高了超過10%，在NDCG@5上提高了超過20%。這意味著在不同數據集和大型語言模型的架構中都能保持穩定的良好性能。

總之，IDLE-Adapter框架確實解決了在序列推薦中使用大型語言模型的問題，彌補了基於ID的模型和大型語言模型之間的語義差距。這一優勢依賴於其在跨域和架構中對推薦的顯著改進的適應性。還需要更多研究來探索其在多樣化推薦中的性能。總之，這是朝著更靈活和強大的推薦系統邁出的一大步，將傳統的ID模型和現代大型語言模型的最佳策略結合在一起。

查看論文。所有的研究成果都歸功於這個項目的研究人員。另外，別忘了在Twitter上關注我們，加入我們的Telegram頻道和LinkedIn小組。還有，別忘了加入我們的60k+機器學習SubReddit。

🚨 [必須訂閱]: 訂閱我們的新聞簡報，獲取最新的AI研究和開發更新。