感谢baidu创始人、董事长兼 CEO 李彦宏今日在 Create 2024 baidu AI 开发者大会上默示,开源模型会越来越发展。李彦宏介绍,因为基础模型文心 4.0 可以根据需要,兼顾效验、响应速度、推理利润等各种考虑,剪裁出适合各种场景的更小尺寸模型,并且支持精调和 post pretrain。这样通过降维剪裁出来的模型,比直接用开源模型调出来的模型,一致尺寸下,效验明显更好;一致效验下,利润明显更低,“所以开源模型会越来越发展”。李彦宏还发布了文心大模型 4.0 的工具版,文心大模型的算法训练效率号称提升到了原来的
感谢baidu创始人、董事长兼 CEO 李彦宏今日在 Create 2024 baidu AI 开发者大会上默示,开源模型会越来越发展。
李彦宏介绍,因为基础模型文心 4.0 可以根据需要,兼顾效验、响应速度、推理利润等各种考虑,剪裁出适合各种场景的更小尺寸模型,并且支持精调和 post pretrain。这样通过降维剪裁出来的模型,比直接用开源模型调出来的模型,一致尺寸下,效验明显更好;一致效验下,利润明显更低,“所以开源模型会越来越发展”。
李彦宏还发布了文心大模型 4.0 的工具版,文心大模型的算法训练效率号称提升到了原来的 5.1 倍,周均训练有效率达到 98.8%,推理性能提升了 105 倍,推理的利润降到了原来的 1%。
IT之家注意到,360 集团创始人周鸿祎在哈佛大学的一次演讲中表达了相反意见。他默示“没有开源就没有 Linux、没有互联网,甚至包括我们自己借助了开源手艺才能发展至今”。他还预言,在未来一到两年内,开源手艺的力量很可能会超过闭源手艺。
周鸿祎默示:“现在开源模型的才能达不到 GPT 4。但是专注在一个方向上,用企业内部的专有数据加上专业训练进行才能的加强之后,它就有可能在专业才能上超过 GPT 4。”