AI在线 AI在线

人类

研究发现部分 AI 系统已学会“说谎”，未来或演变成更高级欺骗形式

研究发现部分 AI 系统已学会“说谎”，未来或演变成更高级欺骗形式
美国麻省理工学院的研究团队近日发布成果称，部分 AI 已经“学会欺骗人类”，该成果刊登在最新一期的期刊《模式》（Pattern）上。该团队表示，部分设计为“诚实”且“不会说谎”的 AI 系统，已经发展出令人不安的欺瞒技巧。该研究的第一作者 Peter Park 表示，这些 AI 系统会欺骗线上游戏的真人玩家，或绕过部分网页“我不是机器人”的验证。图源 Pexels“尽管，以上的例子听起来只是细枝末节，但它们暴露出的潜在问题，可能很快就会在现实世界中造成严重后果。”该团队发现的最为引人注目的例子来自 Meta 公司的
5/12/2024 7:12:37 PM
清源
“AI 教父”杰弗里・辛顿：超越人类智慧的 AI 可用语言操纵我们

“AI 教父”杰弗里・辛顿：超越人类智慧的 AI 可用语言操纵我们
感谢人工智能领域的开创者之一，被誉为“AI 教父”的杰弗里・辛顿（Geoffrey Hinton）近日接受日本经济新闻采访，讲述了 AI 与人类的未来。IT之家注：去年 5 月，杰弗里・辛顿宣布离开他工作了十年的谷歌公司，原因是他对人工智能技术的发展越来越担忧。谈到当初从谷歌离职的原因时，辛顿称希望自己离职后能够“自由地传播”自己相信的东西。去年 4 月，他曾与自己的上司 —— 首席科学家杰夫・迪恩（Jeff Dean）交谈，自己提出了 AI 有可能带来事关人类生存危机的看法。迪恩试图挽留辛顿，并提议留在谷歌研究
3/24/2024 3:20:14 PM
清源
马斯克：到 2029 年，人工智能可能会比所有人类都更聪明

马斯克：到 2029 年，人工智能可能会比所有人类都更聪明
感谢人工智能 (AI) 超越人类智能的可能性几十年来一直备受科技专家、科学家和未来学家们的热烈讨论和争辩。然而，自生成式人工智能聊天机器人 ChatGPT 发布以来，关于人工智能将取代人类的争论愈演愈烈。生成式人工智能的出现使得谷歌、 Meta、亚马逊甚至微软等科技巨头纷纷加入战局，竞相研发自己的语言模型。鉴于人工智能领域的飞速发展，特斯拉 CEO 埃隆・马斯克 (Elon Musk) 认为人工智能超越人类智能的时刻即将到来。他甚至大胆预测，到 2029 年底，人工智能将超越整个人类种族的智力水平。马斯克的言论源于
3/13/2024 8:25:50 PM
远洋
阿尔特曼、老黄齐预测：AGI 五年内降临，代替 95% 工作！但马斯克断言 AGI 将被电力卡脖子

阿尔特曼、老黄齐预测：AGI 五年内降临，代替 95% 工作！但马斯克断言 AGI 将被电力卡脖子
感谢IT之家网友 lemon_meta 的线索投递！【新智元导读】突然间，AGI 已经成为了一个新的「5 年内实现」的未来技术。从 Altman 到老黄，都在不同场合表示，达到人类智能水平的 AI 将很快到来。而技术路径和未来可能出现的能源短缺，可能是达到 AGI 过程中的最大变数。Claude 3、Sora、Gemini 1.5 Pro 的纷纷出现，以及或许今年内就会被放出的 GPT-5，让所有人都不约而同地隐隐感觉：我们似乎离 AGI 似乎越来越近了。OpenAI CEO Sam Altman 坚定地认为，AG
3/12/2024 11:16:15 PM
清源
模型偏好只与大小有关？上交大全面解析人类与32种大模型偏好的定量组分

模型偏好只与大小有关？上交大全面解析人类与32种大模型偏好的定量组分
在目前的模型训练范式中，偏好数据的的获取与使用已经成为了不可或缺的一环。在训练中，偏好数据通常被用作对齐（alignment）时的训练优化目标，如基于人类或 AI 反馈的强化学习（RLHF/RLAIF）或者直接偏好优化（DPO），而在模型评估中，由于任务的复杂性且通常没有标准答案，则通常直接以人类标注者或高性能大模型（LLM-as-a-Judge）的偏好标注作为评判标准。尽管上述对偏好数据的应用已经取得了广泛的成效，但对偏好本身则缺乏充足的研究，这很大程度上阻碍了对更可信 AI 系统的构建。为此，上海交通大学生成式
3/4/2024 11:13:00 AM
机器之心
讲个鬼故事：这台机器人终于“强”成了我要的模样

讲个鬼故事：这台机器人终于“强”成了我要的模样
机器之能报道编辑：吴昕不同于昨日介绍的公司，Ameca 代表了另一种人形机器人的发展路径，也正取得重要进展。当被要求描述一下周遭环境时，Ameca  先用宝蓝色的眼睛盯住自己的老板（视频中与之对话的长者），接着，最有趣的一幕来了：视频链接： 一番左顾右盼，然后开始滔滔不绝：房间的窗户开着，光线太亮有点让人睁不开眼；书架上摆放着很多书，不知道是主人学问好还是在装样子；至于桌椅，是人类生产力工具还是拖延症帮手，视情况而定......好一番调侃。老板接着发问，你看我手里拿着啥？Ameca 看了一眼，闭眼思考片刻后，再度开
2/27/2024 4:04:00 PM
机器之能
终于，乔姆斯基出手了：追捧ChatGPT是浪费资源

终于，乔姆斯基出手了：追捧ChatGPT是浪费资源
​Colorless green ideas sleep furiously. 人类语言语法的基础不可能是基于统计意义的。
3/10/2023 2:19:00 PM
机器之心
Gary Marcus又来「整顿」AI圈：LeCun不可信，Nature审稿人没用脑子

Gary Marcus又来「整顿」AI圈：LeCun不可信，Nature审稿人没用脑子
这个周末刚过，我们再次看到了 Gary Marcus 对 AI 圈的最新「整顿」成果。「四天内关于人工智能和机器学习的三个令人费解的说法、顶级期刊的统计错误，以及 Yann LeCun 的一些说法，你都不应该相信。」以下是 Gary Marcus 的原文内容：一些事情即将发生。当《纽约时报》说一场革命即将到来，但事实上并没有发生时，我从不感到惊讶。这种情况已经持续了很长一段时间（实际上是几十年）。比如，想想 2011 年时 John Markoff 是如何展望 IBM Watson 的。「对 I.B.M. 来说，这
10/17/2022 2:53:00 PM
机器之心
除了缺少点创意，GPT-3写出了及格的大学毕业论文，只需20分钟

除了缺少点创意，GPT-3写出了及格的大学毕业论文，只需20分钟
GPT-3 写的论文及格了吗？教育资源网站 EduRef 对此进行了一项测试，效果还行，及格水平。
3/2/2021 2:45:00 PM
机器之心