感谢The Information 上周末报道称,生成式 AI 模型的快速发展似乎正在遭遇瓶颈。一些专家预测,简单地通过增加模型参数、训练数据和算力来提升模型性能的方法已经逐渐失效,甚至可能带来负面影响。
OpenAI 的最新旗舰模型 Orion 就是一个例证。据报道,与 GPT-4 相比,Orion 的性能提升并不显著,甚至在某些领域如编码方面可能没有任何进步。
AI在线注意到,Safe Superintelligence 创始人、OpenAI 联合创始人 Ilya Sutskever 也表示,单纯通过扩大模型规模来提升性能的策略已经触及天花板。
对此,OpenAI CEO 萨姆・阿尔特曼(Sam Altman)刚刚在 X 平台作出回应称:“没有墙(there is no wall)。”暗示 AI 发展没有遇到瓶颈。
相关消息引发了对 AI 行业泡沫的担忧。认知科学家、AI 怀疑论者 Gary Marcus 警告称,一旦行业意识到这些局限性,整个行业可能会崩溃。他指出,高估值 AI 公司如 OpenAI 和微软的估值很大程度上基于 LLM(大型语言模型)通过持续发展成为 AGI(通用人工智能)的假设,而这只是一个幻想。
如果行业无法迅速找到突破瓶颈的方法,可能会面临新的“AI 寒冬”。经济市场往往缺乏耐心,一旦投资者意识到 AI 行业的盈利能力存在问题,可能会导致泡沫破裂。