標籤: RSD一個新穎框架可將大型語言模型

Salesforce AI 研究推出獎勵引導的推測解碼 (RSD)：一個新穎框架，可將大型語言模型 (LLMs) 的推理效率提高至 4.4 倍更少的 FLOPs