应用
英伟达最新技术分享：手把手教你用 Llama 3.1 合成数据改进模型！附代码
适逢 Llama 3.1 模型刚刚发布，英伟达就发表了一篇技术博客，手把手教你如何好好利用这个强大的开源模型，为领域模型或 RAG 系统的微调生成合成数据。Epoch AI 上个月刚刚发文预言「数据墙」迫近，结果英伟达转头就甩出了 340B 开源巨兽 Nemotron。真实数据稀缺可能不再是问题了，Nemotron 9T token 的预训练预料中，98% 都是合成数据。也许你还对合成数据存在顾虑，或者不知道如何应用 LLM 驱动数据生成。或许，英伟达的这篇博客可以提供答案。原文地址：，用 LLM 合成数据的本质究
智谱获华策 1 亿元战略投资，打造影视 AI 研究平台；杨红霞入职香港理工大学；蔚来发布中国首个智能驾驶世界模型丨AI情报局
今日融资快报智谱华章获得浙江华策投资战略投资智谱华章是一家AI知识智能技术开发商，由清华大学计算机系知识工程实验室的技术成果转化而来。 智谱宣布获得浙江华策投资有限公司的战略投资。 华策影视全资子公司华策投资拟与海南智桥共同设立盐城智华创业投资基金，华策投资以自有资金出资1亿元，占比99.99%。
智平方打通具身智能核心痛点：将AGI拓展到物理世界
近日，清华大学五道口金融学院“金融PLUS系列产业峰会2024·人工智能赋能千行百业”盛大举办。智平方（深圳）科技有限公司（以下简称智平方）创始人兼CEO郭彦东博士受邀出席，并与工信部原副部长杨学山，中国科学院院士、清华大学人工智能研究院名誉院长张钹，百川智能创始人兼CEO王小川，易显智能创始人兼董事长马宏等参会嘉宾一道，同探讨人工智能赋能实体经济、推动实体经济高质量发展之路。第三代人工智能的发展趋势是从数字世界AGI到物理世界AGI大语言模型问世标志着第三代人工智能时代大幕开启，人工智能从特定领域、特定算法、完成
日均tokens使用量超5000亿，AI生图玩法猛猛上新：豆包大模型为什么越来越「香」了？
2024 年的 AI 图像生成技术，又提升到了一个新高度。技术的飞速迭代，让这一领域的商业化落地进入加速阶段。前有 Midjourney v6 史诗级更新，后有开源巨头 Stable Diffusion 3 独领风骚，而 DALL・E 3 背靠 ChatGPT 这棵「大树」，也收获了众多用户的关注。当然了，在这条赛道上，来自国内的选手毫不逊色。近日，国产大模型「顶流」—— 字节跳动豆包大模型，迎来一场集中放送：在 2024 火山引擎 AI 创新巡展成都站活动上，豆包大模型团队公布了豆包大模型的最新进展，以及文生图模
私有数据、删掉的内容可以永久访问，GitHub官方：故意设计的
最近，一个消息震惊开源社区：在 GitHub 上删掉的内容、私有存储库的数据都是可以永久访问的，而且这是官方故意设计的。开源安全软件公司 Truffle Security 在一篇博客中详细描述了这个问题。Truffle Security 引入了一个新术语：CFOR（Cross Fork Object Reference）：当一个存储库 fork 可以访问另一个 fork 中的敏感数据（包括来自私有和已删除 fork 的数据）时，就会出现 CFOR 漏洞。与不安全的直接对象引用类似，在 CFOR 中，用户提供提交（c
标签贴错，AMD召回所有新一代CPU
因为有 typo，召回所有已铺货芯片。上个月，AMD 首席执行官苏姿丰博士在 ComputeX 开幕主题演讲上揭开了 Zen 5 架构的神秘面纱。作为 AMD 未来几年 CPU 的台柱子，Zen 5 立刻被引入消费级市场，面向笔记本和台式机的产品在几周内相继发布。然而临近上市日期，AMD 突然宣布，由于「对 Ryzen 9000 系列处理器的包装产品测试流程」存在问题，其将推迟数周推出搭载 Zen 5 的 Ryzen 9000 处理器。由于最近英特尔酷睿芯片曝出问题，人们对高端芯片质量的关注度很高，AMD 的这一消
AI 歌曲生成神器 Udio 重磅更新！可拆分音轨/控制音调/中文优化明显
大家好，这里是和你们一起探索 AI 的花生~
之前为大家推荐过的 AI 歌曲生成神器 Udio 最近推出了最新的 v1.5 模型，整体生成质量比之前有了大幅提升；还新增了音调控制、音轨拆分、音乐视频一键分享等新功能，使用更方便；中文歌曲的表现也比之前好很多，今天就一起来看看此次更新的具体细节。
还不了解 Udio 小伙伴可以先看这里：一、生成质量整体大提升
Udio 官网直达：
在 4 月份刚推出的时候，Udio 虽然在歌曲质量上令人惊艳，但是只能生成 32s 的音乐片段，无法直接构成一首完整的歌曲，因此整体效果
让输出结果更稳定！超好用的 GPTs “窗口定向”策略
在前面几篇我分别讲解了 GPT 的基本使用、高阶技巧和 GPTs 的创建。GPTs 确实很好用，当我们预设好 prompt，可以创建一个个专属的、定向输出的 GPT 助手。然而，我在使用 GPTs 的过程中遇到了一个问题：每次使用自己创建的 GPTs 时，输出的结果仍存在随机性，难以保证一致的格式和风格。这增加了我对预设 Prompt 的顾虑，我开始的时候怀疑是因为我的 Prompt 定义的不够清楚，开始反复调试，并针对输出格式做三令五申般的限制，但在测试中仍然发现 GPT 的输出具有不稳定性。
为了应对这一问题，
AI有哪些提高效率的落地应用场景？实战案例来了！
如果说今年的风口，那一定是 AI。不过 AI 像一把双刃剑，既有助益也有风险。我们将从 IBM Watson 的高飞与坠落，到 Google Allo 的黯然失色，探索 AI 应用中的教训。同时，瑞幸咖啡的成功故事展现了凭借策略得当的 AI 应用，即使在困境中也能崛起。通过 ChatGPT 实践案例，我们进一步揭示 AI 在日常工作中的潜能，从 PRD 文档编写到内容管理的自动化。最后，我们讨论如何与 AI 高效交流，确保 AI 是成为推动进步的力量而非阻碍。在整篇文章中，我将分享 AI 的正确应用价值，和如何嵌入
防不胜防：黑客可利用 AI 通过 HDMI 线远程窃取屏幕信息
乌拉圭的研究人员发现，黑客可以使用人工智能通过拦截电脑显示器和主机之间 HDMI 线缆泄露的电磁辐射来窥探屏幕内容。他们表示，这种攻击可能已经存在，但普通家庭电脑用户不必过于担心。图源 Pexels据AI在线了解，攻击者可以通过多种方式实施攻击，包括使用放置在建筑物外的天线来拦截 HDMI 线缆的信号，这种间谍活动通过拦截从电脑 HDMI 线缆泄露的电磁辐射进行。研究人员表示，虽然数字视频传输比模拟信号复杂得多，但仍然存在可乘之机。乌拉圭共和国大学的费德里科・拉罗卡和他的团队开发了一种人工智能模型，可以从几米外的泄
Meta 训练 Llama 3 遭遇频繁故障：16384 块 H100 GPU 训练集群每 3 小时“罢工”一次
Meta 发布的一份研究报告显示，其用于训练 4050 亿参数模型 Llama 3 的 16384 个英伟达 H100 显卡集群在 54 天内出现了 419 次意外故障，平均每三小时就有一次。其中，一半以上的故障是由显卡或其搭载的高带宽内存（HBM3）引起的。由于系统规模巨大且任务高度同步，单个显卡故障可能导致整个训练任务中断，需要重新开始。尽管如此，Meta 团队还是保持了 90% 以上的有效训练时间。AI在线注意到，在为期 54 天的预预训练中，共出现了 466 次工作中断，其中 47 次是计划中断，419 次
阿里大模型元老杨红霞去向官宣：入职香港高校！被曝创业项目也在推进
最新消息，阿里大模型元老杨红霞入职香港理工大学，任电子计算机系教授。杨红霞是 AI 领域知名科学家。她曾在 IBM T.J.沃森研究中心担任研究人员，并在雅虎担任首席科学家。2016 年加入阿里巴巴，就职于达摩院智能计算实验室；2023 年 3 月入职字节跳动。她在达摩院期间领导了通义千问前身 M6 大模型的研发，是 M6 大模型从百亿、千亿参数量进化到万亿规模的主要功臣，并领导通义大模型核心技术“统一学习范式 OFA-M6”的开发。任职字节期间，她主要负责大模型研发，向字节 AML 和豆包大模型 Foundati
OpenAI SearchGPT 官方演示大翻车，源代码竟暴露搜索机制
SearchGPT 发布刚过两天，已有人灰度测试到了。今天，网友 Kesku 自制的 demo 全网刷屏，SearchGPT 结果输出如此神速，让所有人为之震惊。当询问 Porter Robinson 出了新唱片吗？只见，SearchGPT 眨眼功夫之间，即刻给出了答案「Smile」，最后还附上了链接。再来看移动版本的回答速度，回答延迟几乎为 0。评论区下方，震惊体铺屏。但另一方面，OpenAI 当天放出的官方演示，被外媒《大西洋月刊》曝出其中的问题。在回答「8 月在北卡罗来纳 Boone 举办的音乐节」的问题时，
密苏里大学许东：大模型时代，Prompt 为生物信息学研究带来新动力丨IJAIRR
自ChatGPT在2022年横空出世，人工智能领域便迎来了一场新的革命。 大语言模型（LLMs）以其卓越的文本处理能力，迅速成为研究者和开发者的新宠。 随着这些模型的崛起，如何与它们有效交互的问题也日益凸显，提示词（Prompt）的概念逐渐成为研究的热点。
为什么AI数不清Strawberry里有几个 r？Karpathy：我用表情包给你解释一下
让模型知道自己擅长什么、不擅长什么是一个很重要的问题。还记得这些天大模型被揪出来的低级错误吗？不知道 9.11 和 9.9 哪个大，数不清 Strawberry 单词里面有多少个 r…… 每每被发现一个弱点，大模型都只能接受人们的无情嘲笑。嘲笑之后，大家也冷静了下来，开始思考：低级错误背后的本质是什么？大家普遍认为，是 Token 化（Tokenization）的锅。在国内，Tokenization 经常被翻译成「分词」。这个翻译有一定的误导性，因为 Tokenization 里的 token 指的未必是词，也可以
贾扬清点赞：3K star量的SGLang上新，加速Llama 405B推理秒杀vLLM、TensorRT-LLM
用来运行 Llama 3 405B 优势明显。最近，Meta 开源了最新的 405B 模型（Llama 3.1 405B），把开源模型的性能拉到了新高度。由于模型参数量很大，很多开发者都关心一个问题：怎么提高模型的推理速度？时隔才两天，LMSYS Org 团队就出手了，推出了全新的 SGLang Runtime v0.2。这是一个用于 LLM 和 VLM 的通用服务引擎。在运行 Llama 3.1 405B 时，它的吞吐量和延迟表现都优于 vLLM 和 TensorRT-LLM。在某些情况下（运行 Llama 系列
无视网站反 AI 抓取政策，Anthropic 爬虫机器人惹多个网站所有者不满
据 The Verge 当地时间 26 日报道，Anthropic 公司使用的 ClaudeBot 在短短 24 小时之内，就访问了 iFixit 网站近百万次，此举违反了该网站的使用条款。这一显得有些疯狂的举动，引起 iFixit 的 CEO Kyle Wiens 直接在 X（推特）上开怼，AI在线附大意如下：“如果这些请求（指访问）中的任何一个访问了我们的使用条款，那么它会告诉你我们的内容被明确禁止使用。别问我，去问 Claude！”“我知道你渴望获得数据，Claude 也真的很聪明！但是，你真的有必要在 24
蔚来发布“中国首个”智能驾驶世界模型 NWM：0.1 秒内推演出 216 种可能发生的场景
在今日下午的 NIO IN 2024 蔚来创新科技日活动中，蔚来发布智能驾驶世界模型 NWM（NIO World Model），号称是“中国首个”。据介绍，它是一个多元自回归生成式的具身驾驶模型，可全量理解数据、具有长时序推演和决策能力，能在 100 毫秒内推演出 216 种可能发生的场景，在「万千平行世界」中寻找最优路径。作为生成式模型，NWM 还能基于 3 秒的驾驶视频，生成 120 秒的想象视频。NWM 具备与生俱来的闭环仿真测试能力，已在复杂交互场景中全面测试并验证性能。AI在线从发布会获悉，蔚来还发布了智