框架 - AI在线

2024 Github 十大最佳 RAG 框架

检索增强生成（RAG）已成为增强大型语言模型能力的一项强大技术。 RAG 框架结合了基于检索的系统和生成模型的优势，可以做出更准确、更能感知上下文和更及时的响应。随着对复杂人工智能解决方案需求的增长，GitHub 上出现了许多开源 RAG 框架，每个框架都具有独特的特性和功能。

一键生成万字专利！中科院发布多智能体框架AutoPatent，含1933个「草稿-专利」数据对

在科技日新月异的今天，专利作为保护创新成果的重要法律工具，其撰写过程却往往繁琐且耗时，传统的专利撰写工作通常由熟悉专利法律和技术领域的专利代理人完成，这一过程耗时费力，且效率较低。因此，开发一种能够自动化生成高质量专利文档的方法，对于提高专利撰写的效率和准确性具有重要意义。最近，来自中科院深圳先进院和大连理工大学的研究团队联合开发了一个名为AutoPatent的自动化的多智能体专利生成框架，能够在十分钟左右的时间依据发明人的专利技术底稿生成一篇完整的专利文档。

边缘AI框架全解析：谁是你的最佳选择？

随着人工智能技术的飞速发展，将AI模型部署到本地设备的需求日益增长。本地AI框架应运而生，为开发者提供了一系列工具和库，使得在设备端运行复杂的AI模型成为可能。本文将对当前流行的本地AI框架进行深入比较，帮助我们选择最适合的工具。

一次示范让Agent适应各种新环境，浙大杭电智能体框架入选NeurIPS

只需一次人类示范，就能让智能体适应新环境？来自杭州电子科技大学和浙江大学的研究者，提出了一套新的智能体框架AutoManual。该研究有效解决了智能体过度依赖人类专家提供的知识，难以自主适应新环境的问题。

DeepSeek等团队新作JanusFlow: 1.3B大模型统一视觉理解和生成

在多模态AI领域，基于预训练视觉编码器与MLLM的方法（如LLaVA系列）在视觉理解任务上展现出卓越性能。而基于Rectified Flow的模型（如Stable Diffusion 3及其衍生版本）则在视觉生成方面取得重大突破。能否将这两种简单的技术范式统一到单一模型中？

提升 1.5~20 倍吞吐量，字节豆包大模型团队与香港大学发布并开源全新 RLHF 框架

字节跳动豆包大模型团队与香港大学公开联合研究成果 —— HybridFlow。官方宣称，HybridFlow（开源项目名：veRL）是一个灵活且高效的大模型 RL 训练框架，兼容多种训练和推理框架，支持灵活的模型部署和多种 RL 算法实现。该框架采用混合编程模型，融合单控制器（Single-Controller）的灵活性和多控制器（Multi-Controller）的高效性，可更好实现和执行多种 RL 算法，显著提升训练吞吐量，降低开发和维护复杂度。

Swarm 框架登场：OpenAI 第 3 阶段“敲门砖”，让专业的事交给专业的 AI 智能体做

科技媒体 marktechpost 昨日（10 月 11 日）发布博文，报道称 OpenAI 公司推出了 Swarm 框架，旨在解决开发者在多智能体系统编排中面临的复杂挑战。Swarm 框架通过简化智能体的协调、执行和测试过程，让开发者能够更高效地管理、互动多个 AI 智能体。OpenAI 朝 AI 第 3 阶段迈进根据 OpenAI 公布五级量表，最新推出的 o1 模型处于第二阶段，即所谓的“推理者”（reasoners），而开发 multi-agent 符合第三阶段的目标要求。

《人工智能安全治理框架》1.0 版发布

感谢据央视新闻今日报道，在 2024 年国家网络安全宣传周主论坛上，全国网络安全标准化技术委员会发布《人工智能安全治理框架》1.0 版。制定该《框架》旨在落实《全球人工智能治理倡议》，遵循“以人为本、智能向善”的发展方向，推动政府、国际组织、企业、科研院所、民间机构和社会公众等各方，就人工智能安全治理达成共识、协调一致，有效防范化解人工智能安全风险。《框架》提出了包容审慎、确保安全，风险导向、敏捷治理，技管结合、协同应对，开放合作、共治共享等人工智能安全治理的原则。针对模型算法安全、数据安全和系统安全等内生安全风险

蚂蚁集团金融多智能体框架正式开源

5月25日，第七届数字中国建设峰会上，蚂蚁集团正式开源多智能体框架agentUniverse，这是行业首个开源的金融领域多智能体技术框架，该框架核心提供了多智能体协作编排组件，允许开发者对多智能体协作模式进行开发定制，可帮助开发者加快大模型技术在金融场景的落地研发。（图说：蚂蚁集团财富保险事业群智能服务部总经理陆鑫，发布首个开源的金融场景多智能体框架）智能体可简化用户与大模型的互动，允许用户只需指定目标，即可驱动大模型完成任务。据IDC发布的《2024 AIGC应用层十大趋势》报告，智能体将是大模型落地业务场景的主

微软 AI 框架 AutoDev 欲改变开发者角色：从“敲代码”变为项目“监管者”

微软公司近日发表论文，概述了名为 AutoDev 的人工智能（AI）框架，希望实现完全自动化软件项目开发，让开发人员从中抽离出来成为“单纯的监管者”。AutoDev 支持文件编辑、检索、构建流程、执行、测试和 git 操作等。AutoDev 框架可以自动分析软件项目的需求，合理搭配开发环境、自动开发和调试代码，只需要少量甚至不需要开发者就能自动化完成软件项目，让开发人员不再枯燥地敲代码，而是扮演“监督者”的角色，测试和审查 AI 生成的代码。IT之家翻译报告部分内容如下：开发人员在 AutoDev 框架中的角色，从

谷歌推出 Cappy “打分”框架，可评估 AI 准确性“教模型更聪明”

据谷歌官方新闻稿，谷歌近日推出了一项名为 Cappy 的模型打分框架，该框架以 RoBERTa 语言模型为基础，主要用于检测模型输出的内容，并为相关内容打分，之后相关分数将会作为参考基准让模型学习，从而让模型更聪明。▲ 图源谷歌官方新闻稿（下同）此外，Cappy 框架也可以作为大语言模型的“候选机制”，该框架可以内置在模型中，并对模型预输出的内容生成分数，并选择分数最高的回应作为最终输出，以提高大语言模型输出内容的正确性。研究人员提到，相对于业界其他方案，Cappy 框架的 RAM 用量更低，这是由于相关框架无需

1句指令+5美元+20分钟，就能训练出小型专业模型，Prompt2Model了解一下

大规模语言模型（LLM）使用户可以借助提示和上下文学习来构建强大的自然语言处理系统。然而，从另一角度来看，LLM 在特定自然语言处理任务上表现存在一定退步：这些模型的部署需要大量计算资源，并且通过 API 与模型进行交互可能引发潜在的隐私问题。为了应对这些问题，来自卡内基梅隆大学（CMU）和清华大学的研究人员，共同推出了 Prompt2Model 框架。该框架的目标是将基于 LLM 的数据生成和检索方法相结合，以克服上述挑战。使用 Prompt2Model 框架，用户只需提供与 LLM 相同的提示，即可自动收集数据

人工智能框架生态峰会2023成功举办

[2023年6月16日，中国，上海] 今日，人工智能框架生态峰会在上海举办。峰会现场，昇思MindSpore携手行业用户与伙伴带来人工智能框架的最新进展与系列重磅发布，包括18家AI顶尖企业、学会、高校与科研院所联合发布《共建人工智能框架生态倡议》、昇思MindSpore开源社区理事会成立、上海昇思AI框架&大模型创新中心正式启动及首批22家单位入驻、全模态大模型“紫东.太初2.0”正式发布等。本次峰会以“一起昇思无尽创新”为主题，全面聚焦人工智能框架生态发展，推动人工智能产业创新，共吸引来自AI产业界超过500

飞桨超越TensorFlow，中国开源框架市场格局迎来变化

百度稳居中国深度学习平台市场综合份额第一。

ChatGPT背后的开源AI框架Ray，现在值10亿美元

最近一段时间，文本生成的人工智能在互联网上掀起了一阵风暴：ChatGPT 因为可以对人们能想到的几乎任何问题提供非常详细、近乎逼真的回答而受到追捧。大模型应用的出现让人们对于 AI 技术突破充满了信心，不过很少有人知道在其背后，一个分布式机器学习框架正为这场生成式 AI 革命提供动力。