Searchformer

Transformer 强大的泛化能力再次失去证明！最近几年，基于 Transformer 的架构在多种任意上都表现卓越，吸引了世界的瞩目。应用这类架构搭配大量数据，失去的大型语言模型（LLM）等模型可以很好地泛化用于真实世界用例。尽管有如此成功，但基于 Transformer 的架构和 LLM 依然难以处理布局和推理任意。之前已有研究证明 LLM 难以应对多步布局任意或高阶推理任意。为了提升 T…