AI在线 AI在线

自进化文本识别器

小模型如何进行上下文学习？字节跳动 & 华东师大联合提出自进化文本识别器

小模型如何进行上下文学习？字节跳动 & 华东师大联合提出自进化文本识别器
我们都知道，大语言模型（LLM）能够以一种无需模型微调的方式从少量示例中学习，这种方式被称为「上下文学习」（In-context Learning）。这种上下文学习现象目前只能在大模型上观察到。比如 GPT-4、Llama 等大模型在非常多的领域中都表现出了杰出的性能，但还是有很多场景受限于资源或者实时性要求较高，无法使用大模型。那么，常规大小的模型是否具备这种能力呢？为了探索小模型的上下文学习能力，字节和华东师大的研究团队在场景文本识别任务上进行了研究。目前，在实际应用场景中，场景文本识别面临着多种挑战：不同的场
11/27/2023 10:56:00 AM
机器之心
  • 1