2024 年 AI 十大故事,透视技术变革与未来挑战

编辑 | 20492024 年,人工智能技术持续改变着我们的生活和工作方式。 IEEE Spectrum 精选了年度最具影响力的 10 个 AI 故事,从技术突破到社会影响,全方位展现了 AI 发展的现状与挑战。 这些故事不仅反映了生成式 AI 的革命性进展,也揭示了其存在的局限与争议。

图片

编辑 | 2049

2024 年,人工智能技术持续改变着我们的生活和工作方式。IEEE Spectrum 精选了年度最具影响力的 10 个 AI 故事,从技术突破到社会影响,全方位展现了 AI 发展的现状与挑战。这些故事不仅反映了生成式 AI 的革命性进展,也揭示了其存在的局限与争议。

提示工程的终结:AI 正在取代人类设计师  

自 ChatGPT 问世以来,提示工程(prompt engineering)迅速成为热门领域。然而,最新研究显示,AI 在优化提示词方面已全面超越人类专家。VMware 研究发现,尽管算法生成的提示词看似怪异,却能带来更优的性能表现。

在图像生成领域,Intel Labs 开发的 NeuroPrompts 工具通过强化学习优化提示词,同样证实了这一点。然而,这并不意味着提示工程师将被淘汰,而是正在向更全面的 LLMOps 工程师转型,负责 AI 系统的可靠性、安全性和合规性等多个维度。

图片

版权困境:生成式 AI 的创作边界在哪里? 

研究发现,Midjourney 和 DALL-E 3 等生成式 AI 系统即使在没有直接提示的情况下,也可能产生与受版权保护内容高度相似的作品。这不仅暴露了 AI 训练数据的合法性问题,也挑战着现有的知识产权保护体系。

虽然一些公司尝试通过过滤提示词来减少侵权风险,但长期来看,确保训练数据获得合法授权才是根本解决方案。推动行业建立透明的数据使用机制,平衡创新与权益保护,成为当务之急。

图片

解码 ChatGPT:AI 编程能力的真相与局限  

格拉斯哥大学的研究团队对 ChatGPT 的编程能力进行了全面评估。结果显示,ChatGPT 在处理 2021 年前的编程问题时表现出色,简单题目的成功率高达 89%,但面对 2021 年后的新问题时,表现急剧下降,困难题目的成功率仅为 0.66%。这一差异凸显了 AI 缺乏真正的理解力和批判性思维。

不过,在代码运行效率和内存占用方面,ChatGPT 生成的解决方案往往优于 50% 的人类代码。研究建议,开发者在使用 AI 辅助编程时应提供更多上下文信息,并注意规避潜在的安全隐患。

图片

AI 助教时代:编程教育的革命与隐忧  

生成式 AI 的普及正在推动计算机科学教育的深刻变革。教育工作者正在调整教学策略,减少对代码语法的机械训练,转而强调问题分解、测试调试等高阶技能。多所高校的实践表明,AI 工具让学生能够尝试更具挑战性的项目,为培养更深层次的思维能力创造了条件。

斯坦福大学助教 Johnny Chang 建议学生在使用 AI 前先独立思考,将 AI 视为学习的「副驾驶」而非「自动驾驶」。尽管 AI 应用存在著作权和偏见等问题,但拥抱这一变革有助于缩小学术教育与行业需求之间的差距。

图片

算法与劳工:数据时代的权益之争  

2020 年初,Shipt 外卖平台突然改变了配送员的薪资计算方式。面对不透明的「工作量」算法,工人 Willy Solis 与 MIT 研究员合作开发了数据分析工具,收集并分析了 5600 多份工资单。结果显示 40% 的工人收入减少,其中一半人降幅超过 10%,约三分之一的收入低于州最低工资标准。

这场数据抗争虽未获得公司直接回应,但推动了零工经济中算法透明度的立法进程。欧盟已要求平台向工人说明算法决策过程,为算法时代的劳工保护树立了标准。

图片

图说AI:2024产业图谱

斯坦福 AI 指数报告揭示了 2024 年 AI 产业的关键走向。

投资趋势:尽管科技领域整体投资降温,生成式 AI 领域仍保持强劲增长。

技术格局:Google 主导基础模型研发,但闭源模型的高成本和环境影响引发担忧。

人才流向:70% 的 AI 博士选择企业发展,反映产业对人才的巨大需求。

商业应用:近八成财富 500 企业积极布局 AI,42% 实现降本增效。

政策环境:全球 33 国共颁布 148 项 AI 相关法律,突显治理重要性。

图片

KAN 网络:可解释 AI 的突破性进展 

研究人员开发的 Kolmogorov-Arnold 网络(KAN)开创了神经网络设计的新范式。不同于传统网络学习权重,KAN 的突触学习复杂的激活函数,这一创新大幅提高了模型的可解释性。在物理定律预测等任务中,KAN 使用少量参数就能达到远超传统网络的精度。研究人员可以直观地分析网络结构,甚至将复杂模型简化为单行函数,为科学发现提供了新工具。

图片

智慧交通:AI 能否拯救世界最拥堵的科技之城? 

印度班加罗尔因快速发展的科技产业而成为全球最拥堵的城市之一。为应对交通问题,前芯片工程师、现任交通警察专员 M.N. Anucheth 开发的 ASTraM 系统,通过 AI 分析多源数据预测拥堵热点,并实时调整交通管理策略。

然而,专家指出技术创新只能在有限范围内改善状况,城市基础设施的滞后才是问题根源。这个案例提醒我们,AI 应用需要与城市规划和基础建设协同推进。

2024 年 AI 十大故事,透视技术变革与未来挑战

伦理危机:技术滥用与儿童权益保护的博弈  

AI 图像生成工具被恶意用户滥用于制作危害未成年人的内容,引发行业警醒。虽然 Hugging Face 等平台采取了下架问题模型等措施,但专家呼吁在源头加强管控。「安全设计」原则要求企业在开发阶段就注重数据清理、内容追踪等保护机制,以技术和制度双重手段防范 AI 滥用。

图片

硅谷速生记:创业公司的人工智能与人工现实  

初创公司 AllDone 的案例揭示了 AI 创新背后的现实。在获得 450 万美元投资后,公司一边在硅谷开发算法,一边依靠菲律宾外包团队充当「人工智能」处理日常任务。这些工人以每小时 2 美元的工资完成大量人工操作,支撑着平台的快速增长。这种依赖廉价劳动力的模式引发了对技术进步中全球不平等的思考。

图片

这十个故事展示了 2024 年 AI 发展的全貌:技术创新带来效率提升和能力突破,同时也伴随着版权保护、算法公平、劳工权益等深层次挑战。在推动 AI 发展的同时,我们需要更加重视其对社会、伦理和法律层面的影响,构建负责任的 AI 发展之路。

相关链接:https://spectrum.ieee.org/top-ai-stories-2024

相关资讯

「机器学习之父」Mitchell 撰文:AI 如何加速科学发展,美国如何抓住机遇

编辑 | ScienceAI近日,卡内基梅隆大学(Carnegie Mellon University)教授,有着「机器学习之父」之称的 Tom M. Mitchell 撰写了新的 AI for Science 白皮书,重点讨论了「人工智能如何加速科学发展?美国政府如何帮助实现这一目标?」这一主题。ScienceAI 对白皮书原文进行了不改变原意的全文编译,内容如下。人工智能领域最近取得了显著进展,包括 GPT、Claude 和 Gemini 等大型语言模型,因此提出了这样一种可能性:人工智能的一个非常积极的影响,

创新能力超越AI Scientist,上海AI Lab「AI 科研团队」VirSci来了

编辑 | ScienceAI由上海人工智能实验室提出的 VirSci(Virtual Scientists)系统是一个基于大语言模型(LLM)的多智能体协作平台,专注于模拟科学家团队的合作过程,从而加速科研创新。 不同于以往的单智能体系统,VirSci 通过使用真实科学家的数据来模拟科学团队的多人协作,不仅可以通过团队成员的合作讨论来生成更具创新性和影响力的科研想法,还展现出作为「科学学」(Scienceof Science)研究工具的巨大潜力。 该研究以「Two Heads Are Better Than One: A Multi-Agent System Has the Potential to Improve Scientific Idea Generation」为题,于 2024 年 10 月 12 日发布在 arXiv  预印平台。

AlphaFold3级性能、开源、可商用,MIT团队推出生物分子预测模型Boltz-1

图示:来自测试集的靶标上的 Boltz-1 的示例预测。 (来源:论文)编辑 | 萝卜皮2024 年 11 月 18 日,麻省理工学院(MIT)的研究人员宣布推出 Boltz-1,这是一个开源模型,旨在准确模拟复杂的生物分子相互作用。 Boltz-1 是第一个完全商业化的开源模型,在预测生物分子复合物的 3D 结构方面达到 AlphaFold3 级精度。