4090成A100平替?上交大推出推理引擎PowerInfer,token生成速率只比A100低18%
呆板之心报道呆板之心编辑部PowerInfer 使得在消费级硬件上运转 AI 更加高效。上海交大团队,刚刚推出超强 CPU/GPU LLM 高速推理引擎 PowerInfer。项目地址::?在运转 Falcon (ReLU)-40B-FP16 的单个 RTX 4090 (24G) 上,PowerInfer 对比 llama.cpp 实现了 11 倍加速!PowerInfer 和 llama.cpp…- 33
- 0
人形机器人+LLMs=? 答案就在这个2分钟视频里
机器之能报道编辑:Sia你可以用自然语言与机器人交谈,并要求它完成一项使命。未来对机器人的控制可能会像骑马,你可以把AI看作是骑手,机器人的物理智能就是马。当生成 AI 被植入数千个系统中时,迟早有一天也会来到人形机器人身上。不过,Agility Robotics CEO Damion Shelton 最初并不相信它们的双足机器人须要这玩意儿。就我们的用例而言,还没有让大型语言模型( LLM )控…- 5
- 0
OpenAI内斗时,Karpathy在录视频:《大型语言模型初学》上线
赶紧学习起来吧!OpenAI 的风波暂时告一段落,员工也忙着「干活了」。年初回归 OpenAI 的 Andrej Karpathy 最近做了一场关于大型语言模型(LLM)的 30 分钟初学讲座,但该讲座当时没录制。因此,他基于这场讲座重新录制了一个长达 1 小时的视频,希望让更多人看到和学习。视频的主题为《大型语言模型初学》,涵盖了 LLM 的推理、训练、微调以及新出现的 LLM 操作系统和 LL…- 6
- 0
OpenAI危险系统负责人长文梳理:大模型的匹敌进击与防御
LLM 能力强大,倘若别有用心之人用其来干坏事,可能会造成难以预料的严重后果。虽然大多数商用和开源 LLM 都存在一定的内置危险机制,但却并不一定能防御形式各异的匹敌进击。近日,OpenAI 危险系统(Safety Systems)团队负责人 Lilian Weng 发布了一篇博客文章《Adversarial Attacks on LLMs》,梳理了针对 LLM 的匹敌进击类型并简单介绍了一些防御…- 5
- 0
230页长文,涵盖5大迷信规模,微软团队使用GPT-4摸索LLM对迷信发觉的影响
编辑 | 紫罗前不久,微软 DeepSpeed 团队启动了一个名为 DeepSpeed4Science 的新计划,旨在通过 AI 系统优化技术实现迷信发觉。11 月 13 日,微软团队在 arXiv 预印平台发表题为《大型语言模型对迷信发觉的影响:使用 GPT-4 的初步钻研》(「The Impact of Large Language Models on Scientific Discovery…- 6
- 0
可跨学科理解、多标准建模,MIT LAMM 团队发布微调的大谈话模型 MechGPT
编辑 | 萝卜皮 几个世纪以来,研讨职员一直在寻找连接差别范围学问的方法。随着人工智能的出现,我们现在可以试探跨范围(例如,力学-生物学)或差别范围(例如,生效力学-艺术)的关系。为了实现这一目标,麻省理工学院(MIT)原子与分子力学实验室 (Laboratory for Atomistic and Molecular Mechanics,LAMM)的研讨职员运用了经过微调的大型谈话模型 (LLM…- 4
- 0
致命幻觉题目、开发GPU替代品,大模型还面临这10大挑战
ChatGPT、GPT-4 等的发布,让我们在见识到大模型(LLM)的魅力后,伴随而来的是其所面临的各种挑战。如何让 LLM 变得更好?面对大模型,到底有哪些需求解决的题目?成为 AI 领域重要的研究课题。- 10
- 0
GPT-4、ChatGLM2、Llama2、PaLM2在KDD LLM Day上一起开了个会
大言语模型(Large Language Models)的发展势头愈发猛烈,各大公司国际角逐的背后,也需要一同应对公平、安全以及隐私等方面的问题。- 5
- 0
类似 ChatGPT 的人工智能即将出现在主要迷信搜刮引擎中
编辑 | 白菜叶人工智能驱动的会话式谈天机器人已经出现在互联网搜刮引擎中,例如谷歌的 Bard 和微软的 Bing,看起来也将越来越多地改变迷信文献搜刮方式。8 月 1 日,荷兰出版巨头 Elsevier 为其 Scopus 数据库的部分用户发布了由 ChatGPT 支持的 AI 界面,而英国公司 Digital Science 则宣布对其 Dimensions 数据库进行 AI 大语言模型 (L…- 3
- 0
大模型迎来「开源季」,盘点过去一个月那些开源的LLM和数据集
前段时间,谷歌泄露的内部文件表达了这样一个观点,虽然表面看起来 OpenAI 和谷歌在 AI 大模型上你追我赶,但真正的赢家未必会从这两家中产生,因为有一个第三方力量正在悄然崛起。这个力量就是「开源」。- 9
- 0
llm
❯
个人中心
今日签到
搜索
扫码打开当前页
返回顶部
幸运之星正在降临...
点击领取今天的签到奖励!
恭喜!您今天获得了{{mission.data.mission.credit}}积分
我的优惠劵
- ¥优惠劵使用时效:无法使用使用时效:
之前
使用时效:永久有效优惠劵ID:×
没有优惠劵可用!