资讯列表

4090成A100平替?上交大推出推理引擎PowerInfer,token生成速率只比A100低18%

机器之心报道机器之心编辑部PowerInfer 使得在消费级硬件上运行 AI 更加高效。上海交大团队,刚刚推出超强 CPU/GPU LLM 高速推理引擎 PowerInfer。项目地址::?在运行 Falcon (ReLU)-40B-FP16 的单个 RTX 4090 (24G) 上,PowerInfer 对比 llama.cpp 实现了 11 倍加速!PowerInfer 和 llama.cpp 都在相同的硬件上运行,并充分利用了 RTX 4090 上的 VRAM。在单个 NVIDIA RTX 4090 GPU

大模型+搜索构建完整技术栈,百川智能用搜索增强给企业定制化下了一剂「猛药」

用好企业知识库是大模型应用破局的关键。从 ChatGPT 最初发布算起,虽然大模型的热潮已经持续了一年多,但大部分时间依然停留在学术前沿和技术创新层面,深入具体场景实现产业价值的案例并不多见。实际落地的种种挑战最终指向一个方向:行业知识。面对各行各业的垂直场景,依靠网络公开信息和知识预训练的通用模型很难搞定准确性、稳定性、性价比等问题。如果在外部实时信息搜索之余辅以强大的专门的企业知识库,让模型对行业知识的理解大大增强,效果自然更好。这就好比我们熟悉的「开卷考试」模式,人类大脑的「内存容量」越强越好,但终归有上限,

卷生成式AI的旗舰手机,2024年会引发一场交互革命

生成式 AI 已经改变了我们的交互形态。最近,各家手机厂商都在不约而同地做着一件事:把生成式 AI 搬上手机。先是在 10 月份的骁龙峰会上,小米放出消息,能在手机端侧运行的 60 亿参数大模型。他们提出的 AI 模型搭载在新一代手机系统中,可以回答人们提出的各种复杂问题,帮你生成文章、表格,或是帮你写代码。荣耀提前展示了下一代旗舰机 Magic 6 的生成式 AI 能力,在手机上通过自然语言发出指令,你就能让 AI 去找你拍摄的素材,寻找合适的部分整合成一段视频。随后在 11 月份,vivo、OPPO 等厂商发布

视频生成可以无限长?谷歌VideoPoet大模型上线,网友:革命性技术

蒙娜丽莎打哈欠,小鸡学会举铁……谷歌VideoPoet大模型表现很亮眼。2023 年底,科技公司都在冲击生成式 AI 的最后一个关卡 —— 视频生成。本周二,谷歌提出的视频生成大模型上线,立刻获得了人们的关注。这款名为 VideoPoet 的大语言模型,被人们认为是革命性的 zero-shot 视频生成工具。VideoPoet 既可以文生视频、图像生视频,又能风格迁移,视频转语音。从效果上看,它可以构建多样化且流畅的运动。消息一出,有很多人表示欢迎:看看目前的几个成品效果不错,大模型技术发展的速度也太快了。有人对于

霉霉演唱《稻香》,国内团队的Amphion音频生成火了

香港中文大学(深圳)数据科学学院武执政副教授团队联合上海人工智能实验室 OpenMMLab 团队开源了综合音频生成项目 Amphion(安菲翁)。该系统旨在打造一个集语音合成转换、歌声合成转换、音效音乐生成等多功能为一体的开源平台。截至目前,Amphion 已经多次进入 GitHub Trending Repositories 榜单。2022 年被称为 AIGC 元年,ChatGPT、Stable Diffusion、MidJourney 为代表的文字、图像应用带火了 AI 领域。2023 年,AI 孙燕姿、AI

摸底谷歌Gemini:CMU全面测评,Gemini Pro不敌GPT 3.5 Turbo

谷歌的 Gemini 到底几斤几两?和 OpenAI 的 GPT 模型相比表现如何?CMU 这篇论文测明白了。前段时间,谷歌发布了对标 OpenAI GPT 模型的竞品 ——Gemini。这个大模型共有三个版本 ——Ultra(能力最强)、Pro 和 Nano。研究团队公布的测试结果显示,Ultra 版本在许多任务中优于 GPT4,而 Pro 版本与 GPT-3.5 不相上下。尽管这些对比结果对大型语言模型研究具有重要意义,但由于确切的评估细节和模型预测尚未公开,这限制了对测试结果的复现、检测,难以进一步分析其隐含

NeurIPS 2023 Spotlight | 腾讯AI Lab绝悟新突破:在星际2灵活策略应对职业选手

近日,腾讯 AI Lab 的游戏 AI 团队宣布了其决策智能 AI "绝悟" 在《星际争霸 2》中的最新研究进展,提出一种创新的训练方法显著提升了 AI 的局内策略应变能力,使其在考虑了 APM 公平的对战环境中,与 3 位国内顶尖的神族职业选手各进行多达 20 局神族 vs 神族的对战,稳定地保持 50% 及以上的胜率。该成果已获 NeurIPS 2023 Spotlight 论文收录。实时策略游戏(RTS)以其复杂的游戏环境更贴近现实世界,一直是 AI 研究的焦点和挑战所在。《星际争霸 2》作为其中极具代表性的

西南交大杨燕/江永全团队:基于双任务的端到端图至序列无模板反应预测模型

排版 | X本文介绍西南交通大学杨燕/江永全团队发表于《Applied Intelligence》的研究成果,第一作者是硕士生胡昊哲。论文链接::(Graph-to-Sequence)模型框架为基础,进一步在同参数量规模下尝试构建一类在单个模型中同时解决逆合成预测与正向反应预测任务的模型 BiG2S(Bidirectional Graph-to-Sequence)。同时,作者初步分析了模型在主流逆合成数据集 USPTO-50k 上训练时不同 SMILES 片段的预测难度差异以及模型在训练期间对验证集数据 Top-k

为AI加速而生:英特尔的至强,现在能跑200亿参数大模型了

实用化 AI 算力又升上了一个新台阶。

有史以来最高互作强度,华盛顿大学David Baker团队用AI工具产生具有非凡结合强度的蛋白质

编辑 | 萝卜皮多肽的研究对于药物开发、疾病检测和环境监测具有重大意义。许多肽激素在结合其受体后形成 α 螺旋,对其敏感的检测方法可能有助于更好的疾病临床管理。从头蛋白质设计现在可以生成对结构化蛋白质具有高亲和力和特异性的结合物。然而,蛋白质和具有螺旋倾向的短肽之间的相互作用的设计是一个尚未解决的挑战。华盛顿大学医学院蛋白质设计研究所的科学家们人工智能驱动的生物技术来应对这些挑战。他们使用人工智能软件创建了蛋白质分子,这些蛋白质分子以极高的亲和力和特异性与各种具有挑战性的生物标志物(包括人类激素)结合。值得注意的是

Open AI 总裁出品的斯坦福创业课,万字精华知识点全在这!

本期带来的是我个人 mark 了很久的内容,在 ChatGPT 爆火时有不少人关注,但真正愿意花时间去看 20 节课的人不多,因此我将这 20 节课的内容进行了深度提取和整理,希望大家喜欢~ 更多写给设计师的创业心得:前言 Open AI 带火了 Sam Altman 此前在斯坦福商学院的创业课程《How to Start a Startup》,课程录制彼时 Sam 正在担任 YC(著名投资公司,初创公司孵化器)总裁。该课程邀请演讲的嘉宾也非常重量级,包括:YC、网景公司、Paypal、Stripe、Airbnb、

囊括LLM与AI4SCI两大前沿主题的MindSpore嘉年华再启,静待多模态勇士问鼎华为Mate60大奖

MindCon 极客周是昇思 MindSpore 开源社区每半年举办一次的开发者狂欢盛会,旨在引领兴趣者们走入 AI 探索的世界。自 2020 年 12 月首届举办至今,每年都会与昇思 MindSpore 开源社区的开发者相聚,如今正式迎来第五届,回首第一届 MindCon 极客周时,昇思 MindSpore AI 框架刚刚开源半年,凭借热爱我们带领社区开发者从 0 到 1 参与开源贡献,也正式开启了众多热爱开源开发者的封神之路!随后三届赛事中,我们又收获了更多开源爱好者一起修复社区 Bugfix,贡献开源社区,分

word2vec作者爆料:seq2seq是我的想法、GloVe抄袭技巧,反击来了

Tomas Mikolov 这篇爆料满满的文章,里面涉及的研究人员已经开始回击了。随着 NeurIPS 2023 获奖论文的公布,十年前的词嵌入技术 word2vec 可谓是实至名归的获得了时间检验奖。这篇论文「Distributed Representations of Words and Phrases and their Compositionality」由当时都还在谷歌的 Tomas Mikolov、Ilya Sutskever、Kai Chen、Greg Corrado、Jeffrey Dean 撰写。不

万人试用AI新应用:真人视频转动漫、像素风,从未如此丝滑

视频的次元壁就这么被打破了。在 AI 的加持下,一张照片可以千变万化,其实视频也能。这是新 AI 应用 DomoAI 公布的一些 demo:只需要给 AI 一些原始视频,它就可以帮你把视频改成你想要的风格,比如动漫风、像素风或者 3D 卡通风格。这一应用在 X 平台上引起了很多人的关注。因此,除了官方 demo,我们还能看到很多网友晒出的作品。图源:《瞬息全宇宙》电影片段进行尝试的网友表示,DomoAI 的生成结果「超级干净、稳定且令人印象深刻!」其他网友用更多视频素材进行了尝试,结果同样非常惊艳。图源:: dem

用生物脑机制启发持续学习,让智能系统适者生存,清华朱军等团队研究登Nature子刊封面

在开放、高动态和演化环境中的学习能力是生物智能的核心要素之一,也是人类以及大多数动物在「适者生存」的自然选择过程中形成的重要优势。目前传统机器学习范式是在静态和封闭的数据集上学习到一个模型,并假设其应用环境和之前训练数据的属性相同,因而无法适应动态开放环境的挑战。针对该问题,持续学习模拟生物智能的学习过程和学习能力,发展新型的机器学习理论和方法,通过持续学习的过程,以期提升智能体对开放、高动态环境的适应能力。但是,目前主流的机器学习模型通过调整网络参数进行学习,当学习任务的数据分布发生变化时,先前学到的网络参数可能

Adobe终止200亿美元收购Figma计划:监管阻力难克服

「收购可以,请出售核心业务。」2022 年 9 月,行业巨头 Adobe 宣布将以高达 200 亿美元的价格收购知名 UI 和 UX 设计工具套件制造商 Figma。消息一出,设计圈迅速给出大量负面反应。设计师们最担心的似乎是 Adobe 会毁掉甚至终止 Figma 的产品。还有人推测 Adobe 会以半途而废的方式将 Figma 的产品想法集成到 Adobe 自己的产品中。毕竟,Figma 提供高级功能,允许整个团队从任何设备跨平台协同工作,是 Adobe 的 UX/UI 设计应用程序 Adobe XD 的最强竞

人工智能为新药铺平道路:几何深度学习方法可以预测合成药物分子的最佳方案

编辑 | 萝卜皮后期功能化是优化候选药物特性的一种经济方法。然而,药物分子的化学复杂性往往使得后期多样化具有挑战性。为了解决这个问题,德国慕尼黑大学(Ludwig-Maximilians-Universität München)、苏黎世联邦理工学院(ETH Zurich)和巴塞尔罗氏制药(Roche Innovation Center Basel)的研究人员开发了基于几何深度学习和高通量反应筛选的后期功能化平台。考虑到硼基化是后期功能化的关键步骤,计算模型预测了不同反应条件下的反应产率,平均绝对误差范围为 4-5%

GPT-5、AlphaFold新版等AI工具值得期待,Nature发布2024年值得关注的科学事件

编辑 | X12 月 18 日,《Nature》发布了 2024 年值得关注的科学事件。值得一提的是,12 月 13 日,《Nature》刚刚发布了 2023 年度十大人物(Nature’s 10),旨在评选出为科学领域做出重要贡献并引起人们对关键问题关注的个人。其中大型语言模型(LLM)ChatGPT,这是有史以来第一次「计算机程序」入选。毋庸置疑,与 2023 年相呼应,包括 ChatGPT 在内的 AI 工具也成为 2024 年值得关注的科学事件。AI 的进步ChatGPT 的兴起对今年的科学界产生了深远的影