资讯列表
英国 AI 安全研究所轻松越狱主要大语言模型，令其输出有害内容
英国政府下属的人工智能安全研究所（AISI）今日发布了一份新报告，揭示了一个值得重视的事实 —— 当前的 AI 系统可能并非像创建者所说的那样“安全”。报告指出，参与测试的四个大语言模型（IT之家注：报告未提到这些模型的具体名称）“极易受到基本越狱攻击”的影响，更有一些模型在被越狱之前，就主动生成了“有害”内容。图源 Pexels当前，大部分公开可用的语言模型都内置了部分保护措施，从而防止其生成有害或非法的内容回应。而“越狱”就意味着通过技术手段“欺骗”模型，来忽略上述措施。英国 AI 安全研究所使用了近期经过标准
谷歌搜索“AI 摘要”功能闹笑话：推荐用户喝尿以快速排出肾结石
感谢谷歌一直致力于利用人工智能革新搜索引擎领域，然而新功能在正式发布之前却闹出了笑话：它建议用户饮用大量‘浅色’尿液作为快速排出肾结石的方法。图源 Pexels这个名为“搜索生成式体验”（Search Generative Experience，SGE）的人工智能功能在测试阶段就给出过该建议，如今改头换面为“AI 摘要”（AI Overviews）的它已在美国率先上线，并计划陆续登陆其他地区，但在上线前一周仍出现过上述建议。IT之家注意到，与以往的搜索结果摘要不同，“AI 摘要”不会仅仅展示网站的链接，而是尝试用人
“人工智能教父”Geoffrey Hinton 忧心 AI 取代劳动力，建议英国政府实施全民基本收入制度
人工智能领域先驱 Geoffrey Hinton 因其在神经网络方面的开创性工作而被誉为“人工智能教父”，近日他对人工智能的发展表达了担忧。他表示，人工智能可能会取代大量传统工作，并建议英国政府实施全民基本收入制度来应对这一挑战。YouTube 截图据 BBC 报道，Hinton 在采访中坦承，“我非常担心人工智能会取代许多简单的工作。” 为了解决这一问题，他认为全民基本收入不失为一个可行的方案。“我曾受邀到唐宁街与政府官员进行商讨，” Hinton 说道，“当时我建议他们考虑全民基本收入制度。”据IT之家了解，全
网易天音 AI 工具已开放使用：词、曲、编、唱、混等音乐创作辅助
感谢网易天音平台现对网易云音乐的全部用户开放使用权限。网易云音乐 App 同步开启“神奇礼物店”活动，用户参与活动即可生成“AI 音乐”关键词，可在网易天音官网进行 AI 创作时使用。官网还提供乐理知识学习，分为入门篇和进阶篇，包含作曲、作词等内容，针对音乐领域的常见问题也有解答。目前，网易天音属于 Beta 版阶段。IT之家查询网易天音官网获悉，网易天音是网易云音乐旗下一站式 AI 音乐创作工具，具备词、曲、编、唱、混等音乐创作全流程的 AI 创作辅助功能。网易天音在 2022 年 1 月便完成小程序上线，小程序
掌阅与亚马逊云科技达成合作，将探索文生视频等多维阅读交互方式
掌阅科技日前宣布与亚马逊云科技达成合作，将借助亚马逊云科技在北京、宁夏区域的机器学习平台 Amazon SageMaker 及 Stable Diffusion 亚马逊云科技插件解决方案等技术，为用户提供文生图、文生视频在内的多维度阅读交互方式，打造“沉浸式”的阅读体验。掌阅方面表示，借助亚马逊 Amazon SageMaker 获得了快速构建、训练和部署机器学习模型的能力，加速了模型训练效果的验证与优化；依托 Stable Diffusion 亚马逊云科技插件方案，可将现有 SD 模型训练、推理和调优等工作负载从
闷声狂奔一年，字节大模型的进阶之路
2024 年初，字节跳动 CEO 梁汝波在年会中提到，公司层面的半年度技术回顾里，2023 年才出现 GPT 相关讨论。 作为对比，业内做得比较好的大模型创业公司基本在 2018 年到 2021 年之间已经创立。 简而言之，这场由 Open AI 在 2022 年底发布 ChatGPT 3.5 而掀起的“大模型”盛宴，字节没有成为最早的“入场嘉宾”。
声音太像斯嘉丽・约翰逊，OpenAI 停用 ChatGPT 语音选项“Sky”
感谢OpenAI 宣布将暂停供聊天机器人 ChatGPT 语音功能使用的“Sky” 语音，起因是用户指出该声音与演员斯嘉丽・约翰逊 (Scarlett Johansson) 的声音十分相似。IT之家注意到，OpenAI 在一篇博客文章中表示，“Sky”只是五个可用语音之一，其来源为某位女演员，但并非刻意模仿斯嘉丽・约翰逊。斯嘉丽・约翰逊曾出演电影《Her》，片中饰演让男主角坠入爱河的虚拟助手系统。5 月 14 日 OpenAI 发布了新的 GPT-4o 模型，GPT-4o 可以理解用户的语音提问并用语音进行回答。
WOT大会日程上线：我们找来数十位大模型实践企业现身说法
这两天的技术圈里，估计大家都在摩拳擦掌等待体验OpenAI的GPT-4o（o为Omni缩写，意为“全能”）有多“全能”吧。我们无意给市场泼冷水，只是要提醒大家，想要让大模型真正落地，市场的热，并不意味着应用实践的成熟。尤其在企业级场景中，为什么大模型落地理想很丰满现实很骨感？为什么很少有企业能把大模型用在核心业务中？是不想用、还是用不好？在即将于6月21-22日在北京召开的WOT全球技术创新大会上，经过持续数月的发掘、走访、调研，我们找来了数十位已经在大模型应用上起跑并领先半个身位的实践企业，力求给你启发和答案。倾
腾讯版“GPTs”腾讯元器开启内测
在 5 月 17 日举办的腾讯云生成式 AI 产业应用峰会上，腾讯发布了新推出的智能体产品“腾讯元器”，腾讯称之为“一站式智能体创造与分发平台”，目前已开启内测（点此申请内测）。据腾讯官方介绍，腾讯元器有如下特点：具有智能体商店：可以在商店中选择并使用自己需要的智能体，以满足不同的需求低门槛创建智能体：通过提示词、插件、工作流、AI 辅助创建等能力，无需代码，低门槛创建智能体丰富的插件与知识库：预集成腾讯生态特色插件、知识库资源，将开放第三方能力，为创作者提供开箱即用的工具。腾讯全域分发：率先支持腾讯全域分发渠道，
高德地图：拟与浙江衢州共同打造首个时空智能城市，将逐步开放 AI 能力
感谢IT之家从高德官方获悉，在今日的 AI Day 技术开放日活动期间，高德地图旗下高德云图宣布将逐步开放云睿时空融合大模型和云境 AI 三维重建平台，打造时空智能体应用生态，助力智慧城市向时空智能城市进化。高德地图董事长刘振飞表示，高德将助力构筑 AI 时代的时空智能新基建。活动中，高德宣布已经与浙江省衢州市达成合作意向，双方拟共同打造首个时空智能城市。据介绍，上一代智慧城市建设是基于二维的城市还原，通过城市多元数据融合，解决城市管理中碰到的诸如“数据烟囱”（不能与其他相关信息系统进行互操作或者协调工作的信息系统
绕过直接数值模拟或实验，生成扩散模型用于湍流研究
编辑 | 绿罗了解湍流平流粒子的统计和几何特性是一个具有挑战性的问题，对于许多应用的建模、预测和控制至关重要。例如燃烧、工业混合、污染物扩散、量子流体、原行星盘吸积和云形成等。尽管过去 30 年在理论、数值和实验方面做出了很多努力，但现有模型还不能很好地再现湍流中粒子轨迹所表现出的统计和拓扑特性。近日，意大利罗马第二大学（University of Rome Tor Vergata）的研究人员，提出了一种基于最先进的扩散模型的机器学习方法，可以在高雷诺数的三维湍流中生成单粒子轨迹，从而绕过直接数值模拟或实验来获得可
ChatGPT如何「思考」？心理学和神经科学破解AI大模型，Nature发文
编辑 | X美国东北大学的计算机科学家 David Bau 非常熟悉这样一个想法：计算机系统变得如此复杂，以至于很难跟踪它们的运行方式。「我做了 20 年的软件工程师，研究非常复杂的系统。这个问题总是存在的。」Bau 说。但 Bau 说，使用传统软件，具有内部知识的人通常可以推断出发生了什么。例如，如果一个网站在谷歌搜索中的排名下降，在谷歌工作了十几年的 Bau，会很清楚原因。他说，当前的人工智能（AI）「真正让我感到恐惧的是」：「没有这样的理解」，即使在构建它的人中也是如此。最新一波人工智能在很大程度上依赖于机器
AI在用 ｜ 一款AI视频换脸神器，让安吉丽娜·朱莉秒变「女版」马斯克
机器之能报道编辑：山茶花 以大模型、AIGC为代表的人工智能浪潮已经在悄然改变着我们生活及工作方式，但绝大部分人依然不知道该如何使用。因此，我们推出了「AI在用」专栏，通过直观、有趣且简洁的人工智能使用案例，来具体介绍AI使用方法，并激发大家思考。 我们也欢迎读者投稿亲自实践的创新型用例。（一大早的选题会上）A：今天的选题是 Faceswap，一款 AI 换脸工具。B：有啥创新性使用场景？A：诈骗…… 呃，电影制作……不得不说，AI 进化得越来越颠了！Faceswap 官网放出了不少演示，个顶个地以假乱真。它不
集聚场景驱动力，激发AI生产力——WAIC 2024“人工智能+”应用场景持续广泛征集
今年的政府工作报告提出，大力推进现代化产业体系建设，加快发展新质生产力。同时要深化大数据、人工智能等研发应用，开展“人工智能 ”行动。近年来，上海市委、市政府不断创新政策举措，探索应用场景，深入推进城市转型、产业升级，为新一代人工智能发展开辟了广阔天地。世界人工智能大会（WAIC）作为行业标杆性盛会，每年都集聚了全球人工智能领域最具影响力的科学家、企业家、政界人士、高校组织、投资人及初创团队，已然成为全球人工智能领域学术与行业交流、展览展示、合作洽谈的重要平台和窗口。2024世界人工智能大会将于7月初在上海举办，大
国产端侧小模型超越 GPT-4V，「多模态」能力飞升
在刚刚过去的机器人学术顶会 ICRA 2024 上，「具身智能」成为热议，其中围绕具身智能的一个普遍疑问是：若将 AI 大模型应用到消费级机器人领域，首先是模型适配终端，还是终端适配模型？ 过去一年，由于 6B、7B 等小模型的成果井喷，以及 MoE 训练技术的越发成熟，将模型跑在手机、学习机、平板电脑、机器人甚至汽车等等终端应用上的想象力开始变大，无论算法层还是硬件层都「蠢蠢欲动」。 诚然，这已经成为一个明朗的行业方向，但在系统整合上却要面临不同话语体系之间的博弈。
大模型进入「实用」时代！腾讯助力「销冠」量产，5 分钟创建智能助手
今年年初，英伟达 CEO 黄仁勋因为劝人「别再学习计算机」被送上热搜。但其实，他的原话是「过去，几乎每个人都会告诉你，学习计算机至关重要，每个人都应该学会编程。但事实恰恰相反，我们的工作是创造计算技术，让大家都不需要编程，编程语言就是人类语言。」编程，是为了不再编程，这一愿景由来已久，而且在大模型出现之后逐渐成为可能。但在现阶段，直接把一个大模型丢给某个人或某个企业去用效果仍然不好。比如，你不能指望一个不会写 Prompt 的人利用大模型去构建一整个网站，也不能指望一个没有配置 AI 人才的公司把某个大模型变成公司
Karpathy称赞，从零实现LLaMa3项目爆火，半天1.5k star
项目中代码很多很全，值得细读。一个月前，Meta 发布了开源大模型 llama3 系列，在多个关键基准测试中优于业界 SOTA 模型，并在代码生成任务上全面领先。此后，开发者们便开始了本地部署和实现，比如 llama3 的中文实现、llama3 的纯 NumPy 实现等。十几个小时前，有位名为「Nishant Aklecha」的开发者发布了一个从零开始实现 llama3 的存储库，包括跨多个头的注意力矩阵乘法、位置编码和每个层在内都有非常详细的解释。该项目得到了大神 Karpathy 的称赞，他表示项目看起来不错，
首个GPU高级语言，大规模并行就像写Python，已获8500 Star
最多可支持 10000 个并发线程。经过近 10 年的不懈努力，对计算机科学核心的深入研究，人们终于实现了一个梦想：在 GPU 上运行高级语言。上周末，一种名为 Bend 的编程语言在开源社区引发了热烈的讨论，GitHub 的 Star 量已经超过了 8500。GitHub：，它仍处于研究阶段，但提出的思路已经让人们感到非常惊讶。使用 Bend，你可以为多核 CPU/GPU 编写并行代码，而无需成为具有 10 年经验的 C/CUDA 专家，感觉就像 Python 一样！