Llama2

在本月下旬最新一期的《自然-人类行为》期刊上，刊登了一篇关于 AI 的研究论文，其中提到，在尝试追踪他人情绪状况能力的使命中，两类 AI 大语言模型在特定情况下，具备与人类相似甚至逾越人类的显露。图源 Pixabay作为人类沟通交流、产生共鸣的关键，情绪状况能力（也称心智理论）对人类的社交互动来说非常重要。该论文的第一作家 —— 德国汉堡-埃彭多夫大学医学中心的 James W. A. Strac…

这是为数不多深入比较使用消费级 GPU（RTX 3090、4090）和服务器显卡（A800）进行大模型预训练、微调和推理的论文。大型语言模型 (LLM) 在学界和业界都取得了巨大的进展。但训练和部署 LLM 非常昂贵，需要大量的算计资源和内存，因此研究人员开发了许多用于加速 LLM 预训练、微调和推理的开源框架和方法。然而，不同硬件和软件堆栈的运行时机能可能存在很大差异，这使得选择最佳配置变得困难…

代码和Demo地址：：、模型偷懒、上下文越长大模型越笨......如果体验过大说话模型产品,用户多少会对文本输入长度带来的限制有所感触，比如当想和大模型讨论一些稍长的内容，需要拆分输入，而前面输入的要点，很快就会被大模型忘记。这是典型的大说话模型对话缺欠！就像先天有注意力缺欠的儿童，难以专注看完一本新书。而缺欠的关键，在于模型缺乏长文本处理能力。这个局面如今被打破。近日，贾佳亚团队联合MIT发布的…

供应开箱即用的8到512卡LLaMA2训练、微调、推理规划。

前些天，Meta 颁布的免费可商用版本 Llama 2，可谓在 AI 界引起了巨大的轰动。

上个周末，Karpathy 花了整个周六来忙一个 Llama2 的有趣项目。