字节跳动火山方舟大模型平台向个人开发者开放,提供 50 万 tokens 免费推理额度

字节跳动火山引擎官宣,旗下一站式大模型服务平台火山方舟将正式面向个人开发者提供服务,个人开发者可体验、应用包括豆包大模型家族在内的十数种大模型和其他平台功能。火山方舟上的豆包全系模型都将为个人用户提供 50 万 tokens 的免费推理额度,此外豆包通用模型 pro 和豆包通用模型 lite 的 4K 和 32K 版本,也为用户提供了 1 万 RPM(每分钟请求数)和 80 万 TPM(每分钟 tokens 数)的流量额度。免费额度用完后,以豆包通用模型 pro-32k 版为例,模型推理输入价格为 0.0008 元

字节跳动火山引擎官宣,旗下一站式大模型服务平台火山方舟将正式面向个人开发者提供服务,个人开发者可体验、应用包括豆包大模型家族在内的十数种大模型和其他平台功能。

火山方舟上的豆包全系模型都将为个人用户提供 50 万 tokens 的免费推理额度,此外豆包通用模型 pro 和豆包通用模型 lite 的 4K 和 32K 版本,也为用户提供了 1 万 RPM(每分钟请求数)和 80 万 TPM(每分钟 tokens 数)的流量额度。

免费额度用完后,以豆包通用模型 pro-32k 版为例,模型推理输入价格为 0.0008 元 / 千 tokens。IT之家附定价表如下:

字节跳动火山方舟大模型平台向个人开发者开放,提供 50 万 tokens 免费推理额度

个人开发者需要在火山引擎官网上完成个人实名认证。完成实名认证后就可以从火山方舟 / 豆包大模型官网进入到火山方舟控制台。

图片

接下来就可以在模型广场中查看目前火山方舟所提供的各类大模型,个人开发者可通过模型卡片查看模型名称、简介、提供方、是否可体验以及应用场景。

图片

在选定模型后,开发者还可以利用火山方舟所提供的控制台页面操作或通过 API 调用的方式进行模型体验及模型对比。具体方式如下:

图片

图片

图片

在完成体验以后,个人开发者就可以根据自身的实际需求,调用相应的模型,并完成推理等工作:

图片

此外,个人开发者还可以上传数据集,通过 SFT 精调(Supervised FineTuning)、继续预训练(Continue Pretraining)对模型进行精调。

图片

相关资讯

OPPO、vivo、荣耀、小米、三星、华硕、字节跳动成立智能终端大模型联盟

感谢在今日的字节跳动 2024 春季火山引擎 Force 原动力大会上,火山引擎与 OPPO、vivo、荣耀、小米、三星、华硕宣布成立智能终端大模型联盟。OPPO 小布助手、荣耀智慧办公智能助手、小米“小爱同学”,以及华硕笔记本电脑的豆叮 AI 助手等应用,均已接入火山引擎的大模型服务。2024 春季火山引擎 FORCE 原动力大会聚焦 AI 主题,以大模型应用为核心、以 AI 落地为导向,展示火山引擎在大模型、云计算领域的实践应用,携手汽车、手机终端、金融、消费、互联网等领域的专家和企业技术带头人,共同探讨 AI

豆包大模型日均Tokens使用量破5000亿,模型家族再升级

7月25日,火山引擎2024“AI创新巡展”首站成都站透露了字节豆包大模型的最新进展:截至7月,豆包大模型日均Tokens使用量已突破5000亿,平均每家企业客户日均Tokens使用量较5月15日模型发布时期增长22倍。豆包大模型由字节跳动自研,原名“云雀”,是国内首批通过算法备案的大模型之一,目前通过字节跳动旗下云服务平台火山引擎面向企业提供服务。自发布之初,豆包大模型便主打使用量大、应用场景丰富。据火山引擎副总裁张鑫介绍,在字节内部,有超过50多个业务在使用豆包大模型,覆盖了协同办公、数据分析、文案创作、辅助编

火山引擎发布豆包大模型文旅解决方案

8月15日,火山引擎「AI创新巡展」第二站在厦门举办。活动中,火山引擎首次发布了大模型文旅解决方案,以字节豆包大模型和火山引擎AI全栈云基础设施为底座,结合抖音内容生态,助力以厦门为代表的旅游城市重塑文旅形态,打造更加新奇智能的旅行和消费体验。豆包大模型由字节跳动自研,是国内首批通过算法备案的大模型之一,于2024年5月15日正式发布,目前通过字节跳动旗下云服务平台火山引擎面向企业提供服务。截至7月,豆包大模型日均Tokens使用量已突破5000亿,外部客户日均Tokens使用量在两个月间增长了22倍。基于豆包大模