机器之能报道
作者：邢波
关于 AI 危急的问题，各路大佬也是意见不统一，前阵子大家还在社交媒体上爆发了一场大规模论战。
有的人带头签署联名信，呼吁 AI 实验室应立即暂停研究并呼吁政府加强监管。也有不少人对 AI 发展非常积极乐观，认为 AI 的发展远未构成对人类的威逼，监管只会蜕变为少数巨头利益的保护伞。
英国政府针对 AI 技能前后态度的变化，正是「威逼论」尘嚣甚上的例证。三月份，英国政府曾发布白皮书，承诺不会扼杀 AI 创新。仅仅两个月后，「AI 末日论」 弥漫，政府也开始讨论为 AI 设置护栏，并敦促美国政府也这么做。
正是在这一大社会议论背景下，穆罕默德·本·扎耶德人工智能大学校长、卡内基梅隆大学计算机迷信学院教授邢波发表了自己的看法。
作为世界上顶尖计算机迷信教授之一，邢波直言不讳批评这些「威逼论」、「末日论」，「营造出充满颓废情绪的议论，加剧大众的恐惧和焦虑。」而这些主张的推理和结论之间却消失「巨大鸿沟。」 他指出，制造和鼓吹颓废论调的人「没有坚持一个受过教育的社会成员应有的理性分析和严谨论证。」
邢波对 AI 发展持积极、开放态度。他认为，AI 正在迎来 21 世纪的「文艺复兴」，也将从根本上改变人类获得常识和解决问题的方式，将我们带入一个赋能期间（Age of Empowerment），增益人类其所不能，促进人类福祉。
本文是邢波供稿（英文）的中译版本，由机器之心编译，以下是全文。
人工智能正在从根本上改变我们获得常识和解决问题的方式。
在谈天机器人和图像生成器高调登场之前，人工智能已经悄然融入了人们的日常生活。它可以识别人脸打开手机，在你旅行时充当翻译和向导。当你结束一天的工作想放松休息时，它甚至可以为你挑选一部电影。
但是，在谈天机器人革命的同时，也出现了一些颓废的警告，将人工智能日益增长的能力与核灾害或自然灾害等保存威逼相提并论。网络上一些意见领袖说以后会出现全知全能的人工智能幽灵，还制造了一些其他抽象却荒谬的说法。然后学术界和商界的一些大人物选择放大这些说法，营造出充满颓废情绪的议论，加剧大众的恐惧和焦虑，他们没有去坚持一个受过教育的社会成员应有的理性分析和严谨论证。那些站在当今迷信前沿的真正研究者和创新者的声音正被这些论调所淹没。
仔细审视实际消失的威逼，就会发现人工智能所谓的危险被夸大了。核武器在广岛和长崎留下的不可磨灭的伤痕、Covid-19 等大流行病的肆虐以及气候变化导致的冰川融化，都是现实危险的鲜明写照。
对人工智能的颓废描述更多的是哗众取宠，而非迷信上的实事求是。与核武器的直接灾害或气候变化的无情打击不同，人工智能的所谓威逼只停留在科幻小说的领域。例如 HAL-9000、「天网」 、奥创都是我们熟悉的反派角色，他们本是人工智能，却背叛了自己的创造者。
11月2日，英国首相苏纳克出席在英国布莱切利公园举行的人工智能安全峰会。不论是真的人工智能怀疑论者还是假的人工智能怀疑论者，都因为让大众和政府感到恐慌而被指责，这一点在最近的布莱切利公园活动中可以看出。
人工智能的现状与研究迷信家试图解决的实际问题大相径庭。人工智能一词本身涵盖了大量迷信领域、技能创新、人工制品和人类活动的内容。但是由于议论偏离了方向，导致社会对人工智能充满了曲解和误用。
短短几年人工智能模型迅速增长，但这些具有误导性的威逼论调没有据此对未来趋势做出迷信推断。没有哪条技能增长曲线会无限增长，增长也受到物理定律、能源约束和范式限制的约束，就像我们在转基因作物生产、半导体芯片的晶体管密度和超级计算机的 FLOPS（性能）中看到的情况。没有证据表明，如果未来没有重大的范式颠覆，目前的软件、硬件或数学将推动我们走向通用人工智能（ AGI ）。与所有生物体基因编辑的潜在危急相比，基于 Transformer 的人工智能（ ChatGPT 等人工智能谈天机器人的基石）的危急显得微不足道。
人工智能末日论者的推理和结论中消失根本漏洞——假设和证立之间消失巨大鸿沟。想象一下，假如说有人发明了一辆自行车，通过锻炼和训练很快能在短时间内大幅度提高骑行速度。在使用电动机和较轻材料后，这辆自行车能跑得更快。如果说这辆自行车可以快到起飞，你信吗？
不难看出这种推理的荒谬性，但这正是当前对人工智能的议论：人工智能通过生成式预训练模型—— Transformer 可以成为百科全书一样的消失。接下来，人工智能将跃升为 AGI 。然后它会变成一种人工超智能（ Artificial Superintelligence，ASI ），拥有情商、意识和自我复制的能力。接着，人工智能会有一个巨大的奔腾——根据牛津大学联盟最近的一场辩论中提出的一些场景，人工智能会针对人类，在没有威慑的情况下，能够使用科幻格式消灭人类，比如让植被释放有毒气体，或者想办法耗尽太阳的能量。
上面所说的每一次奔腾都需要迷信技能取得突破性进展，而这很可能难以实现。因为这些奔腾涉及的诸多假设在逻辑上都是不成立的。但这些故事讲述的危急却会激发大众的想象力。
正如我们最近在英国布莱切利公园举行的人工智能安全峰会上看到的那样，这些人工智能怀疑论者—不管是有意还是无意—都在无视迷信论证的义务，让大众和政府感到恐慌。目前正在推行的法规并不是为了防止可笑的保存危急，而是在破坏威逼大型科技公司利润的开源人工智能社区。过度监管以提高人工智能开发成本，只会让少数富豪受益。
具有讽刺意味的是，「保存威逼」 论还忽视了人类的作用。切尔诺贝利等灾害和挑战者号航天飞机爆炸悲剧的背后不是技能，而是人类管理系统。和与现实世界打交道的物理迷信相反，人工智能的领域主要是数字化的。与物理学、化学和生物学等任何直接与物理世界进行实验的技能相比，人类需要更多的参与到和人工智能的互动过程当中，找到更多可以检查和控制人工智能的机会。
人工智能末日论者的言论掩盖了迷信进步和技能革命给社会和文明带来的根本性、超群的利益，以致于几乎无法激励大众理解和利用迷信。历史上不乏科技成为人类进步的催化剂而非扫把星的例子。指南针、书籍和计算机等东西带领人类智慧从深海畅行到无边宇宙。
关于人工智能消失威逼的说法取决于人工智能能否超过人类智慧，而这一概念缺乏明确的衡量标准。许多发明—如显微镜和计算器—已经超过了一些人类能力，但人们对这些发明感到兴奋，而不是担心它们会灭绝人类。
伴随谈天机器人革命而来的是不祥的警告，这些警告将人工智能日益增长的效用与核灾害或自然灾害等保存威逼相提并论。
实际上，人工智能正在迎来21世纪的 「文艺复兴」（AI RenAIssance），从根本上改变我们获得常识和解决问题的方式。与孕育了启蒙、倡导理性发现迷信真理的文艺复兴不同的是，这个期间正将我们带入一个赋能期间（ Age of Empowerment ）。
历史上的文艺复兴得益于印刷技能和出版市场，使常识得以在欧洲和其他地区迅速传播。早期的迷信通过「知道如何思考」来构建常识结构。牛顿和莱布尼茨等人倡导并定义了这种理性主义。他们和他们同期间的人为一套基于第一性原理、有条理且系统的迷信大厦奠定了基础。
他们创造的迷信通过逻辑和有条不紊的实验形成假设、揭示核心观点并验证理论三步曲，几个世纪以来，不断向前发展。现代人工智能正在重塑这种经典的解决问题的格式。
如今，庞大的数据集、先进的基础设施、复杂的算法和强大的计算能力融为一体，预示着一个远远超过传统逻辑的新发现期间的到来。它有望成为一门以彻底的经验主义和人工智能引导的洞察力为特征的迷信。今天的人工智能复兴超过了「如何」，进而深入研究「为什么」。它为个人提供的不仅仅是常识，还有解决实际问题的东西，标志着经验格式和手段的转向。人工智能揭示了生物学、基因组学、气候迷信和自动化等领域的各种可能性。
当前这个期间的标志是经验主义的复苏，人工智能的数据处理能力使常识的提炼、组织、推理和假设检验自动化，并从已识别的模式中学习洞察力。它为迷信探索的新格式开辟了道路，例如，通过极高吞吐量的数字内容生成、复杂的模拟预测和大规模战略优化，其规模和速度大大超出了传统的基于第一性原理的格式和因果推理所能处理的范围。
这意味着人类有了前所未有的真正机会来应对气候变化、癌症和个性化医疗等以往不可能应对的挑战。这种现代文艺复兴促进人们持续学习、不断适应，使社会文化从坚持在行动之前理解一切，转向探索、理解和有道德地加以使用。在提倡谦虚地获得常识、解决问题方面，这种心智模式与过去的经验格式论可谓异曲同工。
就像普罗米修斯为人类盗取火种一样，人工智能已成为推动人类文明进步的有力东西，虽然尚未被完全掌握。我们需要谦逊、勇气和自由来掌握并使用这一东西。