字节跳动火山方舟大模型平台向小我开发者开放,供给 50 万 tokens 收费推理额度

字节跳动火山引擎官宣,旗下一站式大模型服务平台火山方舟将正式面向小我开发者供给服务,小我开发者可体会、应用包括豆包大模型家族在内的十数种大模型和其他平台功能。火山方舟上的豆包全系模型都将为小我用户供给 50 万 tokens 的收费推理额度,此外豆包通用模型 pro 和豆包通用模型 lite 的 4K 和 32K 版本,也为用户供给了 1 万 RPM(每分钟请求数)和 80 万 TPM(每分钟 tokens 数)的流量额度。收费额度用完后,以豆包通用模型 pro-32k 版为例,模型推理输入价格为 0.0008 元

字节跳动火山引擎官宣,旗下一站式大模型服务平台火山方舟将正式面向小我开发者供给服务,小我开发者可体会、应用包括豆包大模型家族在内的十数种大模型和其他平台功能。

火山方舟上的豆包全系模型都将为小我用户供给 50 万 tokens 的收费推理额度,此外豆包通用模型 pro 和豆包通用模型 lite 的 4K 和 32K 版本,也为用户供给了 1 万 RPM(每分钟请求数)和 80 万 TPM(每分钟 tokens 数)的流量额度。

收费额度用完后,以豆包通用模型 pro-32k 版为例,模型推理输入价格为 0.0008 元 / 千 tokens。IT之家附定价表以下:

字节跳动火山方舟大模型平台向小我开发者开放,供给 50 万 tokens 收费推理额度

小我开发者需要在火山引擎官网上实现小我实名认证。实现实名认证后就可以从火山方舟 / 豆包大模型官网进入到火山方舟控制台。

字节跳动火山方舟大模型平台向小我开发者开放,供给 50 万 tokens 收费推理额度

接下来就可以在模型广场中检察目前火山方舟所供给的各类大模型,小我开发者可通过模型卡片检察模型名称、简介、供给方、是否可体会以及应用场景。

字节跳动火山方舟大模型平台向小我开发者开放,供给 50 万 tokens 收费推理额度

在选定模型后,开发者还可以利用火山方舟所供给的控制台页面操作或通过 API 挪用的方式进行模型体会及模型对比。具体方式以下:

字节跳动火山方舟大模型平台向小我开发者开放,供给 50 万 tokens 收费推理额度

字节跳动火山方舟大模型平台向小我开发者开放,供给 50 万 tokens 收费推理额度

字节跳动火山方舟大模型平台向小我开发者开放,供给 50 万 tokens 收费推理额度

在实现体会以后,小我开发者就可以根据自身的实际需求,挪用相应的模型,并实现推理等工作:

字节跳动火山方舟大模型平台向小我开发者开放,供给 50 万 tokens 收费推理额度

此外,小我开发者还可以上传数据集,通过 SFT 精调(Supervised FineTuning)、继续预训练(Continue Pretraining)对模型进行精调。

字节跳动火山方舟大模型平台向小我开发者开放,供给 50 万 tokens 收费推理额度

给TA打赏
共{{data.count}}人
人已打赏
AI

「思谋科技」获香港投资管理集团首笔投资,香港政府AI策略正式拉开

2024-6-12 17:05:00

AI

历时约半年,消息称 OpenAI 年化营收翻倍至 34 亿美元

2024-6-13 8:16:39

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
搜索