微调
3000多条数据里选出200条效果反而更好，MiniGPT-4被配置相同的模型超越了
今年四月诞生的多模态大型语言模型 MiniGPT-4 不仅能看图聊天，还能利用手绘草图建网站，可以说是功能强大。而在预训练之后的微调阶段，该模型使用了 3000 多个数据。确实很少，但上海交通大学清源研究院和里海大学的一个联合研究团队认为还可以更少，因为这些数据中大部分质量都不高。他们设计了一个数据选择器，从中选出了 200 个数据，然后训练得到了 InstructionGPT-4 模型，其表现竟优于微调数据更多的 MiniGPT-4！这究竟是如何做到的？
坚持做行业大模型，竹间智能给大模型造了一座「模型工厂」
企业被放在了开往大模型时代列车的驾驶座上。
谷歌内部文件泄漏：谷歌、OpenAI都没有护城河，大模型门槛正被开源踏破
「我们没有护城河，OpenAI 也没有。」在最近泄露的一份文件中，一位谷歌内部的研究人员表达了这样的观点。