6月27日,华南工博会现场,思谋科技宣布行业首个产业大模型开发与运用底座SMoreLrMo正式发布。
SMoreLrMo是面向产业场景的大模型开发与运用平台,覆盖了运用层面、算法框架、基础设施办事等开发全场景,涉及算力资源调剂料理才能、数据自动标注料理才能、运用开发料理才能、算法办事料理才能等人工智能模型全生命周期。
今年以来,大模型的火热点燃了新一轮人工智能发展浪潮,也正在引领新一轮产业革命,帮助企业重塑生产及经营各环节以实现提质降本增效。而SMoreLrMo平台的发布,将为大模型在产业领域的运用供给了基础,进一步低落企业开发及运用产业大模型、AIGC等技术的门槛,推动产业4.0发展,助力提高生产力和经济效益。
首个产业大模型开发底座问世
这是继3月底以来ViMo Cloud产业智能云平台、ViMo Deeplearning桌面级产业视觉深度进修训练软件、ViMo Studio低代码机器视觉软件等ViMo系列产品发布之后,思谋的再次“上新”。
如果说ViMo系列产品的研发是为了低落制造业对人工智能的使用门槛的话,SMoreLrMo便是为了低落制造业企业对人工智能的研发与运用成本,为产业场景的大模型运用供给安全可靠的私有化平台。不变的是,思谋科技对人工智能通用性、普惠化的追求始终贯彻其中。
据了解,SMoreLrMo是市场上首个产业大模型开发底座,专为解决产业场景下大模型的数据采集复杂、数据安全性要求严格、设备异构程度高、计算集群分布广、大模型工程化成本高等痛点而来,具有安全与隐私性高、硬件适配广泛、多云调剂、大模型训练快等特点。
SMoreLrMo反对云边端设备联动、多数据源接入,可对产业级大规模数据集进行高效处理和料理,供给高效的数据操作接口和分布式数据处理才能,以满足复杂数据处理需求;亦反对非联邦进修模型到联邦模型的快速转换,实现联邦进修场景下,对卷积、图、Transformer等神经网络的适配,可充分满足制造企业对数据安全与隐私料理严格的要求。
SMoreLrMo还拥有出众的通用性、广泛的硬件适配才能。该平台反对Intel与ARM架构芯片以及NVDIA、寒武纪、天数智芯等5种国产加快卡,超3种以上国产框架,实现了基于国产加快卡与深度框架的150多种深度进修与强化进修模型的适配;在AI作业跨域自动化感知调剂时,可实现万卡、20个以上集群料理调剂,线性加快80%以上。
据SMoreLrMo研发负责人透露,在大模型训练上,平台可反对超1000亿参数规模的大模型分布式训练,较主流深度进修框架训练加快超15%;在推理加快上,平台供给模型自动压缩工具集,供给异构加快卡加快SDK,提升模型推理效率,通用开源大模型布置效率提升3-5倍,平台上线布置模型最高可达到单GPU 1000+ 的吞吐速度,处于行业领先水平;反对模型一键布置,实现推理办事高吞吐高性能,并弹性扩缩容,并供给完整的运维监控体系,极大助力各式高精度产业AI模型的开发与运用。
千亿参数大模型训练成本低落40%
全球最大的企业增长咨询公司弗若斯特沙利文指出,人工智能开发平台的核心竞争力集中在“提高数据处理才能”、“增强平台易用性”、“提升生态开放性”。
SMoreLrMo在上述三方面均有突出表现力。这几大优势也让它成为市场上最先进的大模型开发平台之一,助力思谋迅速拿下了一批头部科研院所、科技公司、超算中心的订单,并快速落地运用。
“目前客户的反馈显示SMoreLrMo开发运用效果非常不错。例如某大型算力中心,客户需要利用15个集群,共计3000+异构计算卡,满足大模型开发与布置运用的场景,并要对模型持续优化,保持在线办事迭代顺畅。我们为该客户布置SMoreLrMo人工智能开发平台后,客户可根据不同的训练任务智能调剂训练资源,模型平均训练速度从原来的7.5小时/epoch低落到2.3小时/epoch。即使面对超1000亿参数的大模型训练,SMoreLrMo依然能高效完成,整体帮助客户训练成本低落40%。”上述负责人表示。
作为一家致力于引领科技、办事全球的全场景智能公司,过去,思谋科技以深耕智能制造、输出标准软硬一体化产品及解决方案获得了业内外广泛关注。少有人知的是,思谋还是最早对大模型在产业领域的 Emergent Ability开展研究和产业化的团队。
如今,思谋把落地在产业场景中的大模型开发、运用的心得与经验,融合20余年在人工智能领域的技术沉淀,推出一站式产业大模型开发与运用平台SMoreLrMo,进一步赋能制造业惠及万企。随着人工智能大模型逐渐落地运用,对实体经济的拥抱逐渐加深,以人工智能普惠为特征的全新时代正在拉开帷幕。而不断自我迭代、不断拓宽自我边界的思谋科技也将迈向更加广阔的未来。