-
B站开源轻量级 Index-1.9B 系列模型：2.8T 训练数据，支持脚色扮演
B站昨日开源了轻量级 Index-1.9B 系列模型，包含基座模型、对照组、对话模型、脚色扮演模型等多个版本。IT之家附官方简介：Index-1.9B base ： 基座模型，具有 19 亿非词嵌入参数量，在 2.8T 中英文为主的语料上预训练，多个评测基准上与同级别模型比处于领先。Index-1.9B pure ： 基座模型的对照组，与 base 具有相同的参数和训练策略，不同之处在于严格过滤了…- 4
- 0
-
S-LoRA：一个GPU运行数千大模型成为可能
一般来说，大语言模型的部署都会采用「预训练 — 然后微调」的模式。但是，当针对众多任务（如个性化助手）对 base 模型进行微调时，训练和效劳成本会变得非常高昂。低秩适配（LowRank Adaptation，LoRA）是一种参数效率高的微调方法，通常用于将 base 模型适配到多种任务中，从而产生了大量从一个 base 模型衍生出来的 LoRA 适配程序。这种模式为效劳过程中的批量推理供给了大量…- 11
- 0
扫码打开当前页
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×