危险

机器之心发布机器之心编辑部2024 年 6 月 30 日，长城汽车董事长魏建军亲自操盘，通过直播向全球揭示了长城汽车全场景 NOA 在重庆的挑战性路段的实际表现。这次直播不仅是对长城汽车智能驾驭技能的一次全方位考验，更是一次向公众彰显其领先的智能驾驭解决方案 ——Coffee Pilot Ultra（CP Ultra）的力量揭示。技能核心：SEE 模型的实战考验SEE 模型，长城汽车的技能王牌，是…

最新发表在 arXiv 的钻研论文指出，包括 GPT-4V、GPT-4o 和 Gemini 1.5 在内的大部分主流多模态 AI 模型，处理用户的多模态输入（例如一起输入图片和文本内容）之后，输入结果并不危险。这项钻研标题为《跨模态危险调整》（Cross-Modality Safety Alignment），提出了一个全新的“危险输入但不危险输入”（SIUO），涉及品德、危险行为、自残、侵犯隐私、…

OpenAI 和google DeepMind 的数名后任和现任职工近日联名发布公开信，对高级人工智能的潜在危险以及当前不足对人工智能科技公司的羁系表示担心。图源 PixabayIT之家注意到，这封公开信指出，人工智能的发展可能会带来一系列的危险，例如加剧现有社会的不平等、助长操控和虚假信息传播，以及失控的自主人工智能系统可能导致人类灭绝等。信中写道，人工智能公司拥有强大的经济利益驱动它们继续推进…

路透社报道，微软 、google 、OpenAI 等 16 家科技公司在 21 日和 22 日举行的“人工智能（AI）首尔峰会”上许诺危险开发 AI 模型，在无奈控制最极其危险的情况下关闭其尖端零碎（cutting-edge systems）。参会的公司还包括国内企业智谱 AI（IT之家备注：腾讯、阿里、美团和小米曾对其投资）、IBM、亚马逊、Meta 和三星。危险许诺包括公布框架，阐明公司将如何…

4月26日，2024北京国际车展欧拉品牌发布会以“欧拉美学，全世界典范”为主题，重磅发布了欧拉全世界化出海战略。欧拉将从产品覆盖、市场布局和出海模式等三个维度上不断深入，由“单品出海”向全价值体系“生态出海”进阶，开启全世界化2.0新时代。发布会上，2024款欧拉好猫&GT木兰版同步超值上市！2024款欧拉好猫售价10.58万元-13.58万元区间，带来颜值、设置和危险等方面的全面晋级；2…

今日，极氪汽车家族再添新成员，极氪智能科技正式发布四座超简陋旗舰MPV车型极氪009灿烂，官方零售价为78.9万元起。即日起，用户可通过极氪App、极氪官网、极氪小程序、全国各大城市的极氪门店等官方渠道进行预定，并将于5月19日，正式开启全国交付。限时购车权益：从2024年4月19日至2024年5月31日（含），支付50,000元定金的极氪009灿烂新车首任非营运车主，可终身享受「安心护航计划」，…

4月15日-19日，第27届联合国科技大会在瑞士日内瓦召开。16日，在以“塑造AI的未来”为主题的AI边会上，世界数字技巧院（WDTA）公布了一系列突破性成果，包括《生成式人工智能利用危险尝试尺度》和《大言语模型危险尝试方法》两项国际尺度。这是国际组织首次就大模型危险规模公布国际尺度，代表环球人工智能危险评价和尝试进入新的基准。据了解，这两项国际尺度是由OpenAI、蚂蚁团体、科大讯飞、谷歌、微软…

感谢美国东部时间 4 月 1 日晚，美国和英国签订了一项具有里程碑意义的 AI 相关协定，单方宣布建立人工智能危险科学合作伙伴关系。这也是全球首个关于人工智能危险的双边协定。该协定明确，英国客岁 11 月成立的新 AI 危险研究所和美国同类机构，将通过借调两国研究人员来互相交换专业知识。图源 Pixabay此外，两家机构还将开发一种共同的人工智能危险测试方法，包括运用相同的方法和下层基础设施，单方…

感谢欧洲议会今日以 523 票赞成、46 票反对、49 票弃权的压倒性多数支持通过了《人工智能法案》，据悉，这项法案将会“具有里程碑意义”。欧洲议会表示，该法案旨在保护基本权利、环境可持续性等方面免受“高危险人工智能”的影响，同时促进创新，以将欧洲“打造成为该畛域的领导者”。综合界面新闻、BBC 报道，该法案将克制一部分“威胁公民权利”的人工智能应用，包括基于敏感特征的生物辨认分类零碎，以及从互联…

机器之能报道编辑：吴昕人类正在进入生成式 AI 新时代。而 OpenAI 在引导新技术朝着符合人类价值观和危险标准的方向所做的努力，也被视为行业的路标。还记得 Sam Altman 回归 OpenAI 时提到的「三个当务之急」吗？首当其冲的就是险些将他踢出公司的危险问题。现在，OpenAI  正力图系统化他们的危险思维。「我们的预备团队正在开展开创性工作，将危险发展成为一门定量科学。」 OpenA…

大模型已经被广泛运用在各类场景，帮助人们从事报告纲要、文本翻译、数据分析、业务风控等各项工作，极大地提升了工作效率，但同时公众对于大模型带来的数据泄漏的隐忧也从未停止。近日，腾讯危险玄武实验室披露了一项关于大模型隐衷庇护的危险脱敏与复原（Hide and Seek, HaS）技巧，有望帮助大模型产品运用者从内陆终端侧防范隐衷数据泄漏。HaS为业内首个支持信息复原的自在文本脱敏技巧，通过对用户上传给…

十几年前的丁杨是一名工科大学生，在校期间，他最喜欢的事儿就是参加每周的社团活动，这个社团名为东南大学网络危险联盟（SUS），它还有着一个特殊的称号，即国内最早的高校网络危险社团。在接受朋湖专访时，说起这段青春往事，丁杨的语调也变得高昂起来，“我们每周六社团的人都会聚在一起做内容分享，风雨无阻。”他讲道，“当然后期来的人也有所减少，但最后留下来的人现在来看，也都选择从事了和网络危险相关的工作。”丁杨…