5月21日,阿里云抛出重磅炸弹:通义千问GPT-4级主力模型Qwen-Long,API输出价值从0.02元/千tokens降至0.0005元/千tokens,直降97%。这意味着,1块钱可以买200万tokens,相当于5本《新华字典》的文字量。这款模型最高支持1千万tokens长文本输出,降价后约为GPT-4价值的1/400,击穿全球底价。
Qwen-Long是通义千问的长文本增强版模型,机能对标GPT-4,上下文长度最高达1千万。除了输出价值降至0.0005元/千tokens,Qwen-Long输出价值也直降90%至0.002元/千tokens。相比之下,国内外厂商GPT-4、Gemini1.5 Pro、Claude 3 Sonnet及Ernie-4.0每千tokens输出价值分别为0.22元、0.025元、0.022元及0.12元,均远高于Qwen-long。
通义千问本次降价共覆盖9款商业化及开源系列模型。不久前发布的通义千问旗舰款大模型Qwen-Max,API输出价值降至0.04元/千tokens,降幅达67%。Qwen-Max是目前业界表现最好的中文大模型,在权威基准OpenCompass上机能追平GPT-4-Turbo,并在大模型竞技场Chatbot Arena中跻身全球前15。
不久前,OpenAI的Sam Altman转发了Chatbot Arena榜单来印证GPT-4o的能力,其中全球排名前20的模型中,仅有的三款中国模型都是通义千问出品。
业界普遍认为,随着大模型机能逐渐提升,AI使用创新正进入密集探索期,但推理本钱过高依然是制约大模型规模化使用的关键因素。
在武汉AI智领者峰会现场,阿里云智能集团资深副总裁、大众云事业部总裁刘伟光表示:“作为中国第一大云计算公司,阿里云这次大幅降低大模型推理价值,就是希望加速AI使用的爆发。我们预计未来大模型API的挪用量会有成千上万倍的增长。”
刘伟光认为,不管是开源模型还是商业化模型,大众云+API将成为企业使用大模型的主流方式,主要有三点原因:
一是大众云的技术红利和规模效应,带来巨大的本钱和机能优势。阿里云可以从模型自身和AI基础设施两个层面不断优化,追求极致的推理本钱和机能。阿里云基于自研的异构芯片互联、高机能网络HPN7.0、高机能存储CPFS、人工智能平台PAI等核心技术和产品,构建了极致弹性的AI算力调度系统,结合百炼分布式推理加速引擎,大幅压缩了模型推理本钱,并加快模型推理速度。
即便是同样的开源模型,在大众云上的挪用价值也远远低于私有化部署。以使用Qwen-72B开源模型、每个月1亿tokens用量为例,在阿里云百炼上直接挪用API每个月仅需600元,私有化部署的本钱平均每个月超1万元。
二是云上更方便进行多模型挪用,并提供企业级的数据安全保障。阿里云可以为每个企业提供专属VPC环境,做到计算隔断、存储隔断、网络隔断、数据加密,充分保障数据安全。目前,阿里云已主导或深度参与10多项大模型安全相关国际国内技术标准的制定。
三是云厂商天然的开放性,能为开发者提供最丰富的模型和工具链。阿里云百炼平台上汇聚通义、百川、ChatGLM、Llama系列等上百款国内外优质模型,内置大模型定制与使用开发工具链,开发者可以便捷地测试比较不同模型,开发专属大模型,并轻松搭建RAG等使用。从选模型、调模型、搭使用到对外服务,一站式搞定。