思谋发布首个工业大模型开发底座 大模型开发成本直降40%

6月27日,华南工博会现场,思谋科技宣布行业首个工业大模型开发与应用底座SMoreLrMo正式发布。SMoreLrMo是面向工业场景的大模型开发与应用平台,覆盖了应用层面、算法框架、基础设施服务等开发全场景,涉及算力资源调度管理能力、数据自动标注管理能力、应用开发管理能力、算法服务管理能力等人工智能模型全生命周期。今年以来,大模型的火热点燃了新一轮人工智能发展浪潮,也正在引领新一轮工业革命,帮助企业重塑生产及经营各环节以实现提质降本增效。而SMoreLrMo平台的发布,将为大模型在工业领域的应用提供了基础,进一步降

6月27日,华南工博会现场,思谋科技宣布行业首个工业大模型开发与应用底座SMoreLrMo正式发布。

SMoreLrMo是面向工业场景的大模型开发与应用平台,覆盖了应用层面、算法框架、基础设施服务等开发全场景,涉及算力资源调度管理能力、数据自动标注管理能力、应用开发管理能力、算法服务管理能力等人工智能模型全生命周期。

今年以来,大模型的火热点燃了新一轮人工智能发展浪潮,也正在引领新一轮工业革命,帮助企业重塑生产及经营各环节以实现提质降本增效。而SMoreLrMo平台的发布,将为大模型在工业领域的应用提供了基础,进一步降低企业开发及应用工业大模型、AIGC等技术的门槛,推动工业4.0发展,助力提高生产力和经济效益。

首个工业大模型开发底座问世

这是继3月底以来ViMo Cloud工业智能云平台、ViMo Deeplearning桌面级工业视觉深度学习训练软件、ViMo Studio低代码机器视觉软件等ViMo系列产品发布之后,思谋的再次“上新”。

如果说ViMo系列产品的研发是为了降低制造业对人工智能的使用门槛的话,SMoreLrMo便是为了降低制造业企业对人工智能的研发与应用成本,为工业场景的大模型应用提供安全可靠的私有化平台。不变的是,思谋科技对人工智能通用性、普惠化的追求始终贯彻其中。

据了解,SMoreLrMo是市场上首个工业大模型开发底座,专为解决工业场景下大模型的数据采集复杂、数据安全性要求严格、设备异构程度高、计算集群分布广、大模型工程化成本高等痛点而来,具有安全与隐私性高、硬件适配广泛、多云调度、大模型训练快等特点。

SMoreLrMo支持云边端设备联动、多数据源接入,可对工业级大规模数据集进行高效处理和管理,提供高效的数据操作接口和分布式数据处理能力,以满足复杂数据处理需求;亦支持非联邦学习模型到联邦模型的快速转换,实现联邦学习场景下,对卷积、图、Transformer等神经网络的适配,可充分满足制造企业对数据安全与隐私管理严格的要求。

SMoreLrMo还拥有出众的通用性、广泛的硬件适配能力。该平台支持Intel与ARM架构芯片以及NVDIA、寒武纪、天数智芯等5种国产加速卡,超3种以上国产框架,实现了基于国产加速卡与深度框架的150多种深度学习与强化学习模型的适配;在AI作业跨域自动化感知调度时,可实现万卡、20个以上集群管理调度,线性加速80%以上。

据SMoreLrMo研发负责人透露,在大模型训练上,平台可支持超1000亿参数规模的大模型分布式训练,较主流深度学习框架训练加速超15%;在推理加速上,平台提供模型自动压缩工具集,提供异构加速卡加速SDK,提升模型推理效率,通用开源大模型部署效率提升3-5倍,平台上线部署模型最高可达到单GPU 1000+ 的吞吐速度,处于行业领先水平;支持模型一键部署,实现推理服务高吞吐高性能,并弹性扩缩容,并提供完整的运维监控体系,极大助力各式高精度工业AI模型的开发与应用。

千亿参数大模型训练成本降低40%

全球最大的企业增长咨询公司弗若斯特沙利文指出,人工智能开发平台的核心竞争力集中在“提高数据处理能力”、“增强平台易用性”、“提升生态开放性”。

SMoreLrMo在上述三方面均有突出表现力。这几大优势也让它成为市场上最先进的大模型开发平台之一,助力思谋迅速拿下了一批头部科研院所、科技公司、超算中心的订单,并快速落地应用。

“目前客户的反馈显示SMoreLrMo开发应用效果非常不错。例如某大型算力中心,客户需要利用15个集群,共计3000+异构计算卡,满足大模型开发与部署应用的场景,并要对模型持续优化,保持在线服务迭代顺畅。我们为该客户部署SMoreLrMo人工智能开发平台后,客户可根据不同的训练任务智能调度训练资源,模型平均训练速度从原来的7.5小时/epoch降低到2.3小时/epoch。即使面对超1000亿参数的大模型训练,SMoreLrMo依然能高效完成,整体帮助客户训练成本降低40%。”上述负责人表示。

作为一家致力于引领科技、服务全球的全场景智能公司,过去,思谋科技以深耕智能制造、输出标准软硬一体化产品及解决方案获得了业内外广泛关注。少有人知的是,思谋还是最早对大模型在工业领域的 Emergent Ability开展研究和产业化的团队。

如今,思谋把落地在工业场景中的大模型开发、应用的心得与经验,融合20余年在人工智能领域的技术沉淀,推出一站式工业大模型开发与应用平台SMoreLrMo,进一步赋能制造业惠及万企。随着人工智能大模型逐渐落地应用,对实体经济的拥抱逐渐加深,以人工智能普惠为特征的全新时代正在拉开帷幕。而不断自我迭代、不断拓宽自我边界的思谋科技也将迈向更加广阔的未来。

相关资讯

「思谋科技」获香港投资管理集团首笔投资,香港政府AI战略正式拉开

6月12日,香港投资管理有限公司(下称:港投公司)与思谋科技共同举办战略合作协议签约仪式。此次签约仪式得到了香港特区政府的高度重视,香港特别行政区行政长官李家超透过视频致辞,香港特别行政区政府财政司司长陈茂波到场见证签约并在午餐会发表主旨演讲。各界对港投公司与思谋科技在人工智能前沿科技产业化落地的合作,包括在粤港澳大湾区更广泛应用,助力区域经济的数字化、智能化转型等发展,寄予厚望。香港投资管理有限公司行政总裁陈家齐(左)与思谋科技创始人兼董事长贾佳亚(右)签署战略合作协议,并由香港特别行政区政府财政司司长陈茂波(中

集聚场景驱动力,激发AI生产力——WAIC 2024“人工智能+”应用场景持续广泛征集

今年的政府工作报告提出,大力推进现代化产业体系建设,加快发展新质生产力。同时要深化大数据、人工智能等研发应用,开展“人工智能 ”行动。近年来,上海市委、市政府不断创新政策举措,探索应用场景,深入推进城市转型、产业升级,为新一代人工智能发展开辟了广阔天地。世界人工智能大会(WAIC)作为行业标杆性盛会,每年都集聚了全球人工智能领域最具影响力的科学家、企业家、政界人士、高校组织、投资人及初创团队,已然成为全球人工智能领域学术与行业交流、展览展示、合作洽谈的重要平台和窗口。2024世界人工智能大会将于7月初在上海举办,大

北京发布首份教育领域人工智能应用指南

《北京市教育领域人工智能应用指南》于 10 月 26 日发布,明确人工智能在 6 大重点教育领域 29 个典型场景的应用规范,指导学校和师生稳妥有序开展应用实践。 两项教育领域人工智能重点任务启动建设,让新技术更“懂”教育。 该指南也是由北京市教育行政主管部门委托研制并发布的首份教育领域人工智能应用指南。