机器之能报道
编辑：sia
冗长的行政敕令立场摇摆，内容复杂如拼盘，像生成AI技巧一样让人困惑。
人工智能很可能成为通向新繁荣时代的桥梁，但要确保我们所有人都能分享其利益并避免其危急，仅靠公司章程远远不够，还要有强有力的新政治。
今天，美国总统拜登签订了一项重要行政敕令——《关于宁静、可靠、可信开发和利用人工智能的行政敕令》（以下简称「敕令」），提供了首个有关生成式人工智能的规则，共有八大目标：
1、为AI宁静拟定新尺度（New Standards for AI Safety and Security）2、损坏美国人的隐衷（Protecting Americans’ Privacy）3、促进公平和公民权利（Advancing Equity and Civil Rights）4、为消费者、病患和学生提供支撑（Standing Up for Consumers, Patients, and Students）5、支撑工人（Supporting Workers）6、促进创新和竞争（Promoting Innovation and Competition）7、提升美国在海外的领导地位（Advancing American Leadership Abroad）8、确保当局负责任、有效地利用AI技巧（Ensuring Responsible and Effective Government Use of AI）
《关于宁静、可靠、可信开发和利用人工智能的行政敕令》，官网截图
作为拜登当局与科技行业几个月讨论的高潮，该「敕令」为人工智能的发展和利用设置了护栏，也是迄今为止美国最全面的 AI 监管原则。
它指示所有类别的当局机构要确保美国在发展 AI 上处于领先地位，同时也要解决技巧带来的许多危险。「敕令」明确要求，各机构拟定规则和指导方针，撰写报告，并为 AI（用拜登自己的话来说是「我们这个时代最重要的技巧」)创建资金和研究计划。
周一，美国总统拜登签订了一项行政敕令，该敕令将影响开发人工智能的公司。
「敕令」冗长、所涉范围之广，令人印象深刻，有几点值关注。1、重点关注人工智能零碎的评估和尺度，包括由美国国家尺度与宁静研究院（NIST）来拟定红队尺度。「敕令」动用朝鲜战争时期的《国防生产法》( Defense Production Act )，强制要求庞大 AI 公司在开发「任何对国家宁静、国家经济宁静或国家公共健康和宁静构成严重危急」的零碎时通知当局。
这意味着在向公众发布之前，白宫将对未来的庞大语言模型(包括 OpenAI 的 GPT-5 和google的 Gemini )进行监督，庞大 AI 模型的开发人员也有义务与美国当局分享他们的宁静测试结果和其他关键信息。
根据「敕令」，美国国家尺度与宁静研究院（NIST）将负责在公开发布之前拟定「红队」人工智能模型的尺度，能源部和国土宁静部将解决人工智能零碎对关键基础设施以及化学、生物、放射、核和网络宁静等方面的威胁和危急。
「敕令」强调，这些是任何当局为推进人工智能宁静而采取的最重要的行动。
2、特别提到生物宁静和网络宁静，防止 AI 加剧这些危急「敕令」要求「通过拟定强有力的生物合成筛选新尺度，防范利用 AI 设计危险生物材料的危急。」
OpenAI CEO Sam Altman 也明确表明过这种担心，一些错位的庞大模型将创造一种迅速传播的病原体。Altman 积极呼吁一个类似国际原子能机构的组织，对人工智能进行全球监督，否则人类很难「有一条长期幸福的道路」。
这并非杞人忧天。今年 6 月，麻省理工学院的生物宁静专家 Kevin Esvelt 让学生在 ChatGPT 或其庞大语言模型的帮助下创建一个危险病毒。这些零碎可以根据大量的互联网数据训练集，对各类问题做出类似人类的回答。仅仅一个小时后，全班同学就列出了候选病毒的清单，以及能够合成病毒基因密码并组装病毒片段的公司。
大约在同一时间，一群化学家将类似的人工智能连接到专家设计的工具，零碎自己设计并合成了一个分子。针对「道高一尺 魔高一丈」的生成 AI 造假与网络宁静，「敕令」要求「通过建立检测人工智能生成内容和验证官方内容的尺度和最佳实践，损坏美国人免受人工智能欺诈和欺骗。」3、重视和支撑开发损坏隐衷的 AI 技巧人工智能不仅使提取、识别和利用个人数据变得更加容易，而且还增强了这样做的动力，因为公司利用数据来训练人工智能零碎。为了更好地损坏美国人的隐衷，包括免受人工智能带来的危急，总统呼吁国会通过两党数据隐衷立法，以损坏所有美国人，尤其是儿童。「敕令」指出，「通过优先考虑联邦当局对加速隐衷损坏技巧的开发和利用来损坏美国人的隐衷，包括利用尖端人工智能的技巧，以及在损坏训练数据隐衷的同时训练人工智能零碎的技巧。」「敕令」还表明，将通过资助 Research Coordination Network （一种虚拟协作结构，可帮助支撑研究人员群体跨学科、组织、部门和地理边界沟通和协调他们的研究。——编者注）来加强损坏隐衷的研究和技巧，例如损坏个人隐衷的加密工具。
4、对「AI+医疗」、「AI+教育」的关注人工智能可以为消费者带来真正的好处，但也增加了伤害、误导或以其他方式伤害美国人的危急。为了损坏消费者，同时确保人工智能能够让美国人过上更好的生活，「敕令」希望通过创建资源来支撑教育工作者部署支撑 AI 的教育工具（例如学校的个性化辅导），塑造 AI 改变教育的潜力。推动人工智能在医疗保健领域的负责任利用，开发负担得起的救命药物。5、对竞争对手的担忧该「敕令」采取的最激进的行动之一是指示商务部长提出新的规定，要求微软和google等美国云服务提供商在利用其服务的外国个人或实体开始训练可能被用于恶意目的的庞大人工智能模型时，通知当局。该「敕令」还强调了国际人力资源对美国人工智能发展的重要性。例如，利用现有权力，通过简化、现代化签证尺度、面试和审查，扩大关键领域具有专业知识的高技能移民和非移民在美国学习、居留和工作的能力。
美国总统拜登签订的这项重要行政敕令也引发学界关注
由于相当多机构参与了提供意见，「敕令」读起来更像是各个不同（甚至对立）群体立场的拼凑：
一部分完全采纳了 OpenAI 和google等少数几家有影响力的人工智能公司的观点，而另一部分则集中了工人、弱势群体和社区以及对庞大科技公司最持批评态度的民权组织的担忧；
尽管该「敕令」听取了庞大人工智能的建议，但它还概述了支撑小型人工智能开发人员和研究人员的方法。对于这项技巧的潜在好处，也有很多人表明赞同。「敕令」指出，人工智能具有「解决社会上一些最困难挑战的潜力」。它可能是小企业和企业家的福音，创造新的就业类别，开发新的药物，改善医疗保健，等等。
这种复杂与「几乎无所不包」也反映出，当局相信人工智能技巧很快就会无处不在。「这是一件大事，」高级研究所(Institute for Advanced Study)教授、曾担任白宫科技政策办公室(Office of Science and Technology Policy)代理主任 Alondra Nelson 在接受外媒采访时说道。人工智能将「像手机上的操作零碎一样无处不在」，这意味着对它的监管将涉及「整个政策空间本身」。这种规模几乎必然会导致一种矛盾状态，好像拜登当局考虑了相互矛盾的观点，但没有决定采取哪一种方法。一位高级当局官员在接受记者采访时表明，该文件的庞大性是一个功能，而不是一个错误。「人工智能政策就像十项全能，」这位官员说。「我们不能只是选择，说，『我们只是要做宁静』或者『我们只是要做公平』，或者『我们只是要做隐衷』，我们必须做所有这些事情。毕竟，该敕令具有巨大的『信号力量』」
美国总统拜登签订的这项重要行政敕令引发学界关注
从历史上看，拜登当局一直在努力对科技行业执行反垄断法。拜登当局首先发布了《人工智能权利法案》，概述了人工智能模型开发者应遵循的一系列原则。去年 11 月 ChatGPT 出现以来，科技行业已将大量资本和资源引入人工智能。今年 5 月，拜登和副总统哈里斯会见了google、Anthropic、Microsoft 和 OpenAI 的首席执行官，这四家公司都是该行业的领先公司，每家公司都在人工智能开发上花费数十亿美元或更多。
作为白宫与科技行业沟通的重要成果——这项「敕令」不是永久性法律，通常只在拜登执政期间有效。立法者仍在讨论如何监管人工智能，尽管一些政界人士表明他们希望在年底前通过有关人工智能的法律。行业观察人士表明，该行政敕令至少在提供生成式人工智能尺度方面向前迈出了一步。Credo AI 创始人、国家人工智能咨询委员会成员 Navrina Singh 表明，行政敕令是一个强烈信号，表明美国认真对待生成式人工智能，这也是当局的首要任务。「我们不能指望政策在一开始就完美无缺。」
虽然新技巧的宁静规则通常会随着时间的推移而积累，就像美国所采纳的普通法一样。但这一次，我们面对的是前所未见、真正强大的人工智能零碎，还能承受不断试错所带来的成本和危急吗？
想起 Sam Altman 曾说的一句话，「我们可能必须从一开始就拟定出完全正确的规则。」
参考链接：https://www.whitehouse.gov/briefing-room/statements-releases/2023/10/30/fact-sheet-president-biden-issues-executive-order-on-safe-secure-and-trustworthy-artificial-intelligence/https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/（全文）https://www.theatlantic.com/technology/archive/2023/10/biden-white-house-ai-executive-order/675837/?utm_source=feed