数据裁减

随着生成模型（如 ChatGPT、扩散模型）飞速发展，一方面，生成数据品质越来越高，到了以假乱真的程度；另一方面，随着模型越来越大，也使得人类世界的实在数据即将枯竭。面对这一处境，一个近期的研究热度是，能否利用生成模型生成的假数据来辅助进修？学界对此也产生了许多争论：到底是可以左脚踩右脚（bootsrap）地实现 weak-to-strong 的不断晋升，还是像鸡生蛋、蛋生鸡一样，只不过是徒劳无功…