资讯列表

直接扩展到无限长,谷歌Infini-Transformer终结上下文长度之争

不知 Gemini 1.5 Pro 是否用到了这项技术。谷歌又放大招了,发布下一代 Transformer 模型 Infini-Transformer。Infini-Transformer 引入了一种有效的方法,可以将基于 Transformer 的大型语言模型 (LLM) 扩展到无限长输入,而不增加内存和计算需求。使用该技术,研究者成功将一个 1B 的模型上下文长度提高到 100 万;应用到 8B 模型上,模型能处理 500K 的书籍摘要任务。自 2017 年开创性研究论文《Attention is All Yo

改变LoRA的初始化方式,北大新方法PiSSA显著提升微调效果

随着大模型的参数量日益增长,微调整个模型的开销逐渐变得难以接受。为此,北京大学的研究团队提出了一种名为 PiSSA 的参数高效微调方法,在主流数据集上都超过了目前广泛使用的 LoRA 的微调效果。论文: PiSSA: Principal Singular Values and Singular Vectors Adaptation of Large Language Models论文链接: : 1 所示,PiSSA (图 1c) 在模型架构上和 LoRA [1] 完全一致 (图 1b),只是初始化 Adapter

360 智脑 7B 参数大模型开源,支持 50 万字长文本输入

感谢360 公司日前在 GitHub 上开源了 360 智脑 7B(70 亿参数模型)。360 智脑大模型采用 3.4 万亿 Tokens 的语料库训练,以中文、英文、代码为主,开放 4K、32K、360K 三种不同文本长度。360 表示,360K(约 50 万字)是当前国产开源模型文本长度最长的。360 表示,他们在 OpenCompass 的主流评测数据集上验证了模型性能,包括 C-Eval、AGIEval、MMLU、CMMLU、HellaSwag、MATH、GSM8K、HumanEval、MBPP、BBH、L

印象笔记发布自研大模型,全新的生产力工具要来了?

(2024年4月12日 北京)今日,印象笔记宣布其自研大语言模型定名为「印象大模型」,并已根据《生成式人工智能服务管理暂行办法》及相关法律法规完成模型备案,为更多用户提供智能化知识管理服务。印象笔记作为生产力工具的领军厂商,始终坚持科技创新,为用户带来更好的知识管理体验。印象笔记专注于人工智能领域的研究机构——印象研究院成立于2018年,在自然语言处理、神经网络算法等领域持续深耕,自2018年起陆续推出智能推荐、智能标签、智能摘要、知识星图等一系列人工智能驱动的核心产品功能。2023年3月,印象研究院基于在AIGC

华为哈勃首次投资国内 AI 大模型公司:面壁智能完成数亿元融资,知乎 CTO 李大海担任 CEO

面壁智能昨日宣布完成新一轮数亿元融资,由春华创投、华为哈勃领投,北京市人工智能产业投资基金等跟投,知乎作为战略股东持续跟投支持。哈勃科技创业投资有限公司由华为投资控股有限公司全资持股,成立于 2019 年 4 月 23 日,法定代表人、董事长、总经理是华为全球金融风险控制中心总裁白熠。此前华为哈勃更多投资半导体企业,这是华为哈勃首次投资国内 AI 大模型公司。面壁核心研发团队脱胎于清华自然语言处理实验室。春华创投负责人表示:“大模型技术带来了人工智能范式的进化,我们持续关注人工智能领域,希望陪伴富有远见的创业者,通

开启智能座舱AI时代,蔚来NOMI GPT端云多模态大模型正式上线

4月12日,蔚来宣布NOMI GPT正式开启推送。此次推送的更新是基于全新技术架构,为NOMI量身打造NOMI GPT端云多模态大模型。NOMI GPT包含自研多模态感知、自研认知中枢、情感引擎、多专家Agent,实现蔚来产品、服务、社区的全域贯通,提供更高效、愉悦的AI服务。升级NOMI GPT功能后,用户可以体验到大模型百科、无限趣聊、魔法氛围、趣玩表情、用车问答、AI场景生成在内的多项全新交互体验,享受智能AI赋能下的全新出行。此次NOMI GPT上线将同步陆续推送给搭载Banyan·榕智能系统的车型。自发布

Arm 推出第三代边缘 AI NPU Ethos-U85,性能提升四倍

Arm 近日宣布推出 Ethos-U85 NPU。作为 Arm 面向边缘 AI 的第三代 NPU 产品,Ethos-U85 适用于工业自动化和视频监控等场景,在性能方面提升了四倍。Ethos-U85 较上一代产品在能效方面拥有 20% 的提升,还可在常用神经网络上实现 85% 的利用率。其在设计上适合基于 Arm Cortex-M / A 处理器内核的系统,能接受较高的内存延迟。Ethos-U85 NPU 支持从 128 个到 2048 个 MAC 单元的配置,在最大规模下可以 1GHz 频率实现 4TOPs 算力

AI在用 | 想让手机壁纸脱胎换骨?试试Midjourney

机器之能报道编辑:Cardinal以大模型、AIGC为代表的人工智能浪潮已经在悄然改变着我们生活及工作方式,但绝大部分人依然不知道该如何使用因此,我们推出了「AI在用」专栏,通过直观、有趣且简洁的人工智能使用案例,来具体介绍AI使用方法,并激发大家思考。   我们也欢迎读者投稿亲自实践的创新型用例。周末了,我们分享一个轻松有趣的玩法——用图像生成器  Midjourney (v 6.0)DIY 漂亮壁纸。来自X用户@eslwithtinaX 用户 @umesh_ai 用一个简单提示就创建非常美丽壁纸!案例地址::w

埋头钻研一年后,阶跃星辰交出了第一份答卷

历经去年持续一年之久的百模大战后,今年伊始,落地应用开始成为大模型的主流叙事方式。 本以为,在月之暗面、智谱、MiniMax、百川、零一万物等一众明星企业之后,关于通用大模型的格局既定,没想到,平静水面下泛起涟漪,新玩家浮现……其实,“新玩家”一词用来形容阶跃星辰并不恰当,去年年末,阶跃星辰以一家通用大模型初创公司的身份开始出现在公众视野,AI科技评论当时也就此做过报道。 但彼时网上关于这家公司的公开信息并不多,公司属于微软系创业,由前微软 NLP 大牛姜大昕创立,成立于2023年4月,发力自研大模型 AI原生应用,仅此而已,寥寥数笔就可以勾勒出大致轮廓。

低成本、准确、稳健,各类分子通用,上海人工智能实验室开发MD模拟AI新方法

编辑 | 绿萝机器学习原子间势(MLIP)因其兼顾高精度和高效率的优势,在材料、化学、生物学等领域的大尺度原子模拟研究中引起了广泛关注。然而,高性能 MLIP 依赖于大量标记数据,通过从头计算获取这些数据的成本很高。近日,上海人工智能实验室、复旦大学和清华大学的研究团队,提出了一种 MLIP 的几何学习框架 GPIP,利用未标记的构型来提高 MLIP 的性能。研究表明,GPIP 只需少量的计算成本即可显著提高 MLIP 的准确性和泛化性,并且与不同的不变或等变图神经网络架构兼容。该方法增强了 MLIP,并推进了分子

无屏幕可穿戴设备 AI Pin 开售:699 美元起,外媒给予差评

Humane 公司宣布,首款无屏幕可穿戴设备 Ai Pin 现已在美国市场推出,售价为 699 美元(当前约 5068 元人民币)起,此外每月需要额外支付 24 美元订阅费(当前约 174 元人民币,蜂窝网络数据费及 AI 模型使用费,不付订阅费无法使用)。外媒 The Verge(下文简称外媒)已经拿到了这款产品,他们给予了这款产品非常低的评价。他们表示,这是一个半成品,完全不推荐花费 699 美元购买,更不要提每个月还有 24 美元的订阅费。AI Pin 想要让用户摆脱智能手机的束缚,但他无法做到。Humane

谷歌 Gemini 流量已是 ChatGPT 的四分之一

Github 前首席执行官 Nat Friedman 在 X(推特)上发帖,称谷歌 Gemini 流量已经到达 ChatGPT 的 25% 左右,这一成绩是在谷歌并没有通过庞大分销渠道(Android、Google 搜索、GSuite 等)大力推广的情况下完成的。此外他还提到,在 X 上比较火爆的 Claude 使用率仍然很低,微软的 Copilot 使用率也并不高,而最知名的 ChatGPT 流量则与去年相对持平,没有明显的增长。他认为 Claude、ChatGPT 和 Gemini 的付费与未付费比率差异很大。

瑞莱智慧完成新一轮战略融资,加速打造中国AGI安全基座

近日,人工智能安全基础设施提供商瑞莱智慧(RealAI)宣布完成新一轮战略融资,北京市人工智能产业投资基金等参与投资。本轮融资完成后,瑞莱智慧将继续加速通用人工智能安全基座产品研发,并不断推进安全可控的大模型商业化落地。随着全球范围内最大规模的人工智能浪潮掀起,人工智能的可控性和安全性成为愈发重要的发展议题。如今,人工智能大模型的通用性和泛化性大幅提升,应用也从传统的判别式任务走向生成式任务,而人工智能的内生及衍生安全问题变得愈加复杂,其带来的挑战和已经引起的各类风险事件也持续受到全球公众、企业和政府的广泛关注。当

Gartner 预估 2028 年 75% 的企业软件工程师使用 AI 代码助手

市场调查机构 Gartner 近日发布报告,2023 年年初企业软件工程师使用 AI 代码助手的比例不到 10%,不过预估到 2028 年将达到 75%。Gartner 于 2023 年第 3 季度调查了全球 598 家知名企业,结果显示 63% 的企业目前正在试用、部署或已经部署了 AI 代码助手。AI 代码助手不仅可以根据程序员要求生成和补全代码之外,还扮演协作助手的角色,通过激发头脑风暴和提高代码质量来提高开发人员的效率,从而让开发人员能够不断提高技能,熟练掌握各种编程框架。AI 代码助手提供的辅助功能可提高

电影《传说》即将定档,用 AI 还原了 27 岁的成龙

感谢中国电影大数据盛典“中国电影投资春天”论坛现场,博纳董事长于冬提到电影《传说》即将定档,首次用 AI 技术还原了 27 岁的成龙,是国内电影 AI 技术制作上的一次大突破。从官方公布的预热视频可以看到,“AI 成龙”身着古装,与真人成龙并排站在一起,大家觉得还原程度如何? IT之家查询获悉,电影《传说》由于冬担任出品人、总制片人,《神话》导演唐季礼编剧并执导,成龙、张艺兴、古力娜扎、李治廷领衔主演,李晨特别主演,彭小苒特邀主演,窦骁友情出演,郑业成特别出演。 考古专家陈教授(成龙 饰)察觉,学生在冰川考察时发现

OpenAI 宣布向 ChatGPT 付费用户开放新 GPT-4 Turbo 模型

感谢OpenAI 今日宣布,新 GPT-4 Turbo 现已向付费 ChatGPT 用户开放。与 1 月份相比,新版本提高了写作、数学、逻辑推理和编码的能力。GPT-4 Turbo 可在 ChatGPT Plus、Team、Enterprise 和 API 中使用。OpenAI 还表示,使用新版本写作时,响应会更直接、减少冗长内容,并使用更多的对话语言,他们还将继续优化使模型变得更好。据IT之家此前报道,GPT-4 Turbo 于 2023 年 11 月在 OpenAI 首届开发者大会上公开,支持 128k 上下文

AI 大牛吴恩达官宣加入亚马逊董事会

亚马逊今日对外宣布,吴恩达加入亚马逊董事会,该任命从 4 月 9 日起生效。亚马逊表示,人工智能 (AI),尤其是生成式人工智能,是这个时代最具变革性的创新之一。吴恩达博士是人工智能和教育领域的全球领导者,他曾在学术和私营部门工作,开发机器学习和深度学习算法,并支持公司开发和采用人工智能应用程序。吴博士撰写或合著了 200 多篇关于机器学习、机器人和其他相关领域的研究论文,为一系列新兴技术带来了深刻的见解。吴恩达的加入将使董事会深入了解人工智能带来的机遇和挑战、社会变革和商业潜力。亚马逊正面临微软和 OpenAI

北汽极狐发布达尔文2.0技术体系,引领新能源汽车技术迈向新高度

4月11日,达尔文2.0技术在北京盛大发布,极狐汽车再次以智慧出行领域的创新之举引领未来。达尔文2.0技术体系是极狐汽车对智慧出行领域的深度探索和实践的结晶。它整合了七大技术板块,包括智能驾驶、智能互联、智能安全等多个方面,为用户提供全方位、智能化的出行体验。通过先进的传感器和算法,该技术体系能够实现对车辆行驶状态的精准感知和智能决策,确保用户在各种交通环境下都能享受到安全、舒适的驾驶体验。同时,达尔文2.0技术还注重用户体验的升级。它通过与智能设备的无缝连接,实现了车载系统与手机、智能家居等设备的互联互通,为用户