清华、哈工大把大模型紧缩到了1bit，把大模型放在手机里跑的愿望就快要实现了！
近期，清华大学和哈尔滨工业大学联合发布了一篇论文：把大模型紧缩到 1.0073 个比特时，仍然能使其保持约 83% 的本能！自从大模型火爆出圈以后，人们对紧缩大模型的愿望从未消减。这是因为，虽然大模型在很多方面表现出优秀的威力，但高昂的的部署代价极大提升了它的使用门槛。这种代价主要来自于空间占用和计算量。「模型量化」 通过把大模型的参数转化为低位宽的表示，进而节省空间占用。目前，主流格式可以在几乎…- 3
- 0
哈尔滨工业大学
扫码打开当前页
- ￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×