示例

提示工程是一种在机器学习模型，尤其是预训练语言模型中，通过精心设计输入提示（prompt）来引导模型输出期望结果的技术。在大语言模型的使用中，提示词通常是一段文本，用来引导模型生成特定的输出或完成特定的任务。在多文档搜索、问答系统、文档自动摘要生成以及阅读理解等多样化且复杂的应用场景中，往往会面临输入提示（prompt）长度显著增加的挑战。这种超长prompt不仅加大了大型语言模型（LLM）的推理…

AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年，机器之心AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：[email protected]；[email protected]本研讨评估了先进多模态底子模型在 10 个数据集上的百般本上下文进修…

除了 OpenAI 自己，居然还有别人能用上 GPT-4-Base 版？？也就是未经微调的预训练版，还不会对话谈天，只会补全句子的模型。EPFL（瑞士洛桑联邦理工）团队申请到了造访权力，用于钻研“上下文进修足以让大模型跟从指令吗？”。也就是不用监督微调、也不用 RHLF 或其他强化进修对齐要领，只靠提醒词能走多远？预训练模型，究竟能不能一步登天，直接改造成谈天机器人或 AI 帮忙？如果可行，将大大…

google今天通过 NeoWin 媒体，针对近期出现的 AI Overviews 搜刮给出的重大事实错误实质，发布有关申明，表示会继续改良有关算法从事修正。IT之家翻译google官方申明实质如下：绝大多数人工智能概括都提供了高质量的信息，并附有深入挖掘的网络链接。基于我们的观测情况，网友分享的很多示例并非常见查问，且部分示例存在被改动或无法重现的情况。我们在推出 AI Overviews 之前…

LLM 微调不再头疼。

几个月来，ChatGPT、GPT-4 等大模型陆续发布。这些模型表现出了强大的涌现能力，但模型生成的结果是随机的，时好时坏，部分原因与 Prompt 的设计密切相关。

ChatGPT 给 AI 领域带来的变革，可能正在催生一个新产业。上周末，有消息称 AI 初创公司 Anthropic 即将获得大约 3 亿美元的新融资。Anthropic 由 OpenAI 前研究副总裁 Dario Amodei、GPT-3 论文一作 Tom Brown 等人在 2021 年共同创立，目前已筹集了超过 7 亿美元的资金，最新一轮的估值达到了 50 亿美元。他们开发了一种对标老东家…