AI在线 AI在线

框架

提升 1.5~20 倍吞吐量,字节豆包大模型团队与香港大学发布并开源全新 RLHF 框架

字节跳动豆包大模型团队与香港大学公开联合研究成果 —— HybridFlow。 官方宣称,HybridFlow(开源项目名:veRL)是一个灵活且高效的大模型 RL 训练框架,兼容多种训练和推理框架,支持灵活的模型部署和多种 RL 算法实现。 该框架采用混合编程模型,融合单控制器(Single-Controller)的灵活性和多控制器(Multi-Controller)的高效性,可更好实现和执行多种 RL 算法,显著提升训练吞吐量,降低开发和维护复杂度。
11/3/2024 3:24:59 PM
沛霖(实习)

Swarm 框架登场:OpenAI 第 3 阶段“敲门砖”,让专业的事交给专业的 AI 智能体做

科技媒体 marktechpost 昨日(10 月 11 日)发布博文,报道称 OpenAI 公司推出了 Swarm 框架,旨在解决开发者在多智能体系统编排中面临的复杂挑战。Swarm 框架通过简化智能体的协调、执行和测试过程,让开发者能够更高效地管理、互动多个 AI 智能体。OpenAI 朝 AI 第 3 阶段迈进根据 OpenAI 公布五级量表,最新推出的 o1 模型处于第二阶段,即所谓的“推理者”(reasoners),而开发 multi-agent 符合第三阶段的目标要求。
10/12/2024 4:07:51 PM
故渊

《人工智能安全治理框架》1.0 版发布

感谢据央视新闻今日报道,在 2024 年国家网络安全宣传周主论坛上,全国网络安全标准化技术委员会发布《人工智能安全治理框架》1.0 版。制定该《框架》旨在落实《全球人工智能治理倡议》,遵循“以人为本、智能向善”的发展方向,推动政府、国际组织、企业、科研院所、民间机构和社会公众等各方,就人工智能安全治理达成共识、协调一致,有效防范化解人工智能安全风险。《框架》提出了包容审慎、确保安全,风险导向、敏捷治理,技管结合、协同应对,开放合作、共治共享等人工智能安全治理的原则。针对模型算法安全、数据安全和系统安全等内生安全风险
9/9/2024 5:19:27 PM
汪淼

蚂蚁集团金融多智能体框架正式开源

5月25日,第七届数字中国建设峰会上,蚂蚁集团正式开源多智能体框架agentUniverse,这是行业首个开源的金融领域多智能体技术框架,该框架核心提供了多智能体协作编排组件,允许开发者对多智能体协作模式进行开发定制,可帮助开发者加快大模型技术在金融场景的落地研发。(图说:蚂蚁集团财富保险事业群智能服务部总经理陆鑫,发布首个开源的金融场景多智能体框架)智能体可简化用户与大模型的互动,允许用户只需指定目标,即可驱动大模型完成任务。据IDC发布的《2024 AIGC应用层十大趋势》报告,智能体将是大模型落地业务场景的主
5/27/2024 11:09:00 AM
新闻助手

微软 AI 框架 AutoDev 欲改变开发者角色:从“敲代码”变为项目“监管者”

微软公司近日发表论文,概述了名为 AutoDev 的人工智能(AI)框架,希望实现完全自动化软件项目开发,让开发人员从中抽离出来成为“单纯的监管者”。AutoDev 支持文件编辑、检索、构建流程、执行、测试和 git 操作等。AutoDev 框架可以自动分析软件项目的需求,合理搭配开发环境、自动开发和调试代码,只需要少量甚至不需要开发者就能自动化完成软件项目,让开发人员不再枯燥地敲代码,而是扮演“监督者”的角色,测试和审查 AI 生成的代码。IT之家翻译报告部分内容如下:开发人员在 AutoDev 框架中的角色,从
4/18/2024 7:59:05 AM
故渊

谷歌推出 Cappy “打分”框架,可评估 AI 准确性“教模型更聪明”

据谷歌官方新闻稿,谷歌近日推出了一项名为 Cappy 的模型打分框架,该框架以 RoBERTa 语言模型为基础,主要用于检测模型输出的内容,并为相关内容打分,之后相关分数将会作为参考基准让模型学习,从而让模型更聪明。▲ 图源 谷歌官方新闻稿(下同)此外,Cappy 框架也可以作为大语言模型的“候选机制”,该框架可以内置在模型中,并对模型预输出的内容生成分数,并选择分数最高的回应作为最终输出,以提高大语言模型输出内容的正确性。研究人员提到,相对于业界其他方案,Cappy 框架的 RAM 用量更低,这是由于相关框架无需
3/17/2024 4:18:59 PM
漾仔

1句指令+5美元+20分钟,就能训练出小型专业模型,Prompt2Model了解一下

大规模语言模型(LLM)使用户可以借助提示和上下文学习来构建强大的自然语言处理系统。然而,从另一角度来看,LLM 在特定自然语言处理任务上表现存在一定退步:这些模型的部署需要大量计算资源,并且通过 API 与模型进行交互可能引发潜在的隐私问题。为了应对这些问题,来自卡内基梅隆大学(CMU)和清华大学的研究人员,共同推出了 Prompt2Model 框架。该框架的目标是将基于 LLM 的数据生成和检索方法相结合,以克服上述挑战。使用 Prompt2Model 框架,用户只需提供与 LLM 相同的提示,即可自动收集数据
8/31/2023 5:10:00 PM
机器之心

人工智能框架生态峰会2023成功举办

[2023年6月16日,中国,上海] 今日,人工智能框架生态峰会在上海举办。峰会现场,昇思MindSpore携手行业用户与伙伴带来人工智能框架的最新进展与系列重磅发布,包括18家AI顶尖企业、学会、高校与科研院所联合发布《共建人工智能框架生态倡议》、昇思MindSpore开源社区理事会成立、上海昇思AI框架&大模型创新中心正式启动及首批22家单位入驻、全模态大模型“紫东.太初2.0”正式发布等。本次峰会以“一起昇思 无尽创新”为主题,全面聚焦人工智能框架生态发展,推动人工智能产业创新,共吸引来自AI产业界超过500
6/16/2023 2:49:00 PM
新闻助手

飞桨超越TensorFlow,中国开源框架市场格局迎来变化

百度稳居中国深度学习平台市场综合份额第一。
2/1/2023 2:31:00 PM
机器之心

ChatGPT背后的开源AI框架Ray,现在值10亿美元

最近一段时间,文本生成的人工智能在互联网上掀起了一阵风暴:ChatGPT 因为可以对人们能想到的几乎任何问题提供非常详细、近乎逼真的回答而受到追捧。大模型应用的出现让人们对于 AI 技术突破充满了信心,不过很少有人知道在其背后,一个分布式机器学习框架正为这场生成式 AI 革命提供动力。
1/3/2023 2:31:00 PM
机器之心