字节跳动火山引擎官宣,旗下一站式大模型服务平台火山方舟将正式面向小我开发者供给服务,小我开发者可体会、应用包括豆包大模型家族在内的十数种大模型和其他平台功能。
火山方舟上的豆包全系模型都将为小我用户供给 50 万 tokens 的收费推理额度,此外豆包通用模型 pro 和豆包通用模型 lite 的 4K 和 32K 版本,也为用户供给了 1 万 RPM(每分钟请求数)和 80 万 TPM(每分钟 tokens 数)的流量额度。
收费额度用完后,以豆包通用模型 pro-32k 版为例,模型推理输入价格为 0.0008 元 / 千 tokens。IT之家附定价表以下:
小我开发者需要在火山引擎官网上实现小我实名认证。实现实名认证后就可以从火山方舟 / 豆包大模型官网进入到火山方舟控制台。
接下来就可以在模型广场中检察目前火山方舟所供给的各类大模型,小我开发者可通过模型卡片检察模型名称、简介、供给方、是否可体会以及应用场景。
在选定模型后,开发者还可以利用火山方舟所供给的控制台页面操作或通过 API 挪用的方式进行模型体会及模型对比。具体方式以下:
在实现体会以后,小我开发者就可以根据自身的实际需求,挪用相应的模型,并实现推理等工作:
此外,小我开发者还可以上传数据集,通过 SFT 精调(Supervised FineTuning)、继续预训练(Continue Pretraining)对模型进行精调。