-
Karpathy点赞，这份报告教你如何用 LLaMa 3创建高品质收集数据集
众所周知，对于 Llama3、GPT-4 或 Mixtral 等高本能大语言模型来说，构建高品质的收集规模数据集是非常重要的。然而，即使是最先进的开源 LLM 的预训练数据集也不公开，人们对其创建过程知之甚少。最近，AI 大牛 Andrej Karpathy 推荐了一项名为 FineWeb-Edu 的工作。这项工作将原始 15 万亿个 FineWeb token，经 Llama 3 70B 评判，…- 6
- 0
扫码打开当前页
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×