AI在线 AI在线

HyperAttention

全新近似注意力机制HyperAttention：对长上下文友好、LLM推理提速50%

全新近似注意力机制HyperAttention：对长上下文友好、LLM推理提速50%
本文介绍了一项近似注意力机制新研究，耶鲁大学、谷歌研究院等机构提出了 HyperAttention，使 ChatGLM2 在 32k 上下文长度上的推理时间快了 50%。Transformer 已经成功应用于自然语言处理、计算机视觉和时间序列预测等领域的各种学习任务。虽然取得了成功，但这些模型仍面临着严重的可扩展性限制，原因是对其注意力层的精确计算导致了二次（在序列长度上）运行时和内存复杂性。这对将 Transformer 模型扩展到更长的上下文长度带来了根本性的挑战。业界已经探索了各种方法来解决二次时间注意力层的
11/13/2023 6:20:00 PM
机器之心
  • 1