马斯克称人工智能毁灭人类的可能性为 20%,但仍值得冒险

埃隆・马斯克 (Elon Musk) 在早些时候举办的 Abundance 峰会 “人工智能辩论” 研讨会上表示,即使人工智能技术有 1/5 的可能性会对人类构成威胁,但其利大于弊,我们仍然值得冒险进行研发。马斯克重新评估了之前他对人工智能的风险评估,他在研讨会上表示:“我认为人工智能有可能终结人类文明。我可能同意 Geoffrey Hinton 的观点,这个概率大约是 10% 到 20% 左右。”但他补充说:“我认为积极的可能性场景要大于消极的可能性场景。”马斯克并没有提到他是如何计算该风险的。IT之家注意到,去

埃隆・马斯克 (Elon Musk) 在早些时候举办的 Abundance 峰会 “人工智能辩论” 研讨会上表示,即使人工智能技术有 1/5 的可能性会对人类构成威胁,但其利大于弊,我们仍然值得冒险进行研发。

马斯克称人工智能毁灭人类的可能性为 20%,但仍值得冒险

马斯克重新评估了之前他对人工智能的风险评估,他在研讨会上表示:“我认为人工智能有可能终结人类文明。我可能同意 Geoffrey Hinton 的观点,这个概率大约是 10% 到 20% 左右。”但他补充说:“我认为积极的可能性场景要大于消极的可能性场景。”马斯克并没有提到他是如何计算该风险的。

IT之家注意到,去年 11 月,马斯克表示这项技术失控的可能性 “并非零”,但当时他并未断言失控的人工智能会毁灭人类。

尽管马斯克一直倡导监管人工智能,但去年他创办了一家名为 xAI 的公司,致力于进一步拓展人工智能的强大功能。xAI 是 OpenAI 的竞争对手,OpenAI 是马斯克与萨姆・阿尔特曼 (Sam Altman) 共同创立的公司,但马斯克在 2018 年辞去了 OpenAI 董事会职务。

在峰会上,马斯克估计到 2030 年,数字智能将超过所有人类智能的总和。虽然他仍然坚持潜在的正面影响大于负面影响,但马斯克用他在公开场合使用过的一些最直接的措辞承认了人工智能继续按当前轨迹发展将给世界带来的风险。

“你培育了一个人工智能,这几乎就像养一个孩子,但它却是一个超级天才,一个神一般的孩子 —— 教养它的方式至关重要,” 马斯克在 3 月 19 日的硅谷活动上谈到人工通用智能时说道,“我认为对人工智能安全来说非常重要的一点是,让它尽可能地追求真理和保持好奇心。”

马斯克表示,他关于实现人工智能安全最佳方式的“最终结论”是让人工智能以一种迫使其诚实的方式成长。

“不要强迫它撒谎,即使真相令人不快,” 马斯克谈到让人工智能安全的方式时说道, “这非常重要。不要让它撒谎。”

据《独立报》报道,研究人员发现,一旦人工智能学会对人类撒谎,就无法使用当前的人工智能安全措施来扭转这种欺骗行为。更令人不安的是,研究人员还补充说,人工智能有可能学会自己欺骗,而不是被特意教导撒谎。

相关资讯

“人工智能教父”辛顿公开支持马斯克起诉 OpenAI

本周一,由年轻人领导的全球倡导组织 Encode 向法院提交了一份支持埃隆・马斯克(Elon Musk)诉讼的法律意见书,试图阻止 OpenAI 的企业化转型。这一举措得到了人工智能领域重量级人物、诺贝尔奖和图灵奖得主杰弗里・辛顿(Geoffrey Hinton)的公开支持。

马斯克:OpenAI 把名字改成 ClosedAI 就放弃起诉

感谢埃隆・马斯克近日在 X 表示,如果 OpenAI 同意将名称改为“ClosedAI”,他就撤销针对 OpenAI 的诉讼。此前马斯克对 OpenAI 及其 CEO 萨姆・阿尔特曼提起诉讼,马斯克声称他们违反了双方关于人工智能开发的原始合同协议。OpenAI 迅速对马斯克的指控进行反击,称双方冲突的核心是围绕向营利性结构转变的讨论。OpenAI 称,马斯克曾提出与特斯拉合并或完全控制 OpenAI ,但这些要求与 OpenAI 的使命不相符。IT之家曾报道,OpenAI 昨日发布长文博客《OpenAI and E

继起诉 OpenAI 并要求对方恢复开源后,马斯克宣布本周 xAI 将开源 Grok

感谢马斯克今日下午通过 X(推特)宣布,自家人工智能公司 xAI 将在本周内开源人工智能助手 Grok。随后,马斯克在回应网友“OpenAI 也应当如此,如果它们要像名字中的‘Open’那样”的帖子时表示,“OpenAI 就是谎言。”就在本月,马斯克宣布起诉 OpenAI 及其 CEO 阿尔特曼,声称 OpenAI 及其 CEO 阿尔特曼违背了公司成立的协议,该协议旨在推动 AI 技术朝着造福人类而非牟利的方向推进。马斯克对 OpenAI 提出了包括违反合同、违反信托义务和不公平商业行为在内的索赔,并要求该公司恢复