AI在线 AI在线

Lumia

大模型也有小偷？为保护你的参数，上交大给大模型制作「人类可读指纹」

大模型也有小偷？为保护你的参数，上交大给大模型制作「人类可读指纹」
将不同的基模型象征为不同品种的狗，其中相同的「狗形指纹」表明它们源自同一个基模型。大模型的预训练需要耗费巨量的计算资源和数据，因而预训练模型的参数也正成为各大机构重点保护的核心竞争力和资产。然而，不同于传统的软件知识产权保护可以通过比对源代码来确认是否存在代码盗用，对预训练模型参数盗用的判断存在以下两方面的新问题：1） 预训练模型的参数，尤其是千亿级别模型的参数，通常不会开源。2） 更重要的是，预训练模型的输出和参数都会随着 SFT、RLHF、continue pretraining 等下游处理步骤而变化。这使得无
2/2/2024 5:18:00 PM
机器之心
  • 1