马斯克起诉OpenAI:他们做出了AGI还授权给微软,这是对首创协定赤裸裸的背叛

AGI 做出来了吗?首创协定在哪儿?马斯克起诉 OpenAI 的诉讼文献疑点满满。在刚刚过去的一天,「沉湎于戏剧性冲突」的马斯克又做了一件新鲜事:他起诉了自己参与创立的 OpenAI。在诉讼文献中,他控告 OpenAI 不计后果地开发人类级别的人工智能,并将其移交给微软。马斯克的诉讼针对的是 OpenAI 及其两名高管 —— 首席执行官 Sam Altman 和总裁 Greg Brockman,他们两人与马斯克合作,于 2015 年创立了这家公司。诉讼称,这两人违反了与马斯克最初达成的「首创协定」,该协定承诺公司将

AGI 做出来了吗?首创协定在哪儿?马斯克起诉 OpenAI 的诉讼文献疑点满满。

在刚刚过去的一天,「沉湎于戏剧性冲突」的马斯克又做了一件新鲜事:他起诉了自己参与创立的 OpenAI。

马斯克起诉OpenAI:他们做出了AGI还授权给微软,这是对首创协定赤裸裸的背叛

在诉讼文献中,他控告 OpenAI 不计后果地开发人类级别的人工智能,并将其移交给微软。

马斯克的诉讼针对的是 OpenAI 及其两名高管 —— 首席执行官 Sam Altman 和总裁 Greg Brockman,他们两人与马斯克合作,于 2015 年创立了这家公司。诉讼称,这两人违反了与马斯克最初达成的「首创协定」,该协定承诺公司将公开开发 AGI(通用人工智能),「造福人类」。

马斯克起诉OpenAI:他们做出了AGI还授权给微软,这是对首创协定赤裸裸的背叛

诉讼文献:https://www.courthousenews.com/wp-content/uploads/2024/02/musk-v-altman-openai-complaint-sf.pdf

马斯克在诉讼中称,该公司的营利性部门是在他与 OpenAI 分道扬镳后于 2019 年成立的,它在不适当透明度的情况下创建了 AGI,并将其授权给微软,而微软向该公司投资了数十亿美元。诉讼补充道。「这是对首创协定赤裸裸的背叛。」

马斯克起诉OpenAI:他们做出了AGI还授权给微软,这是对首创协定赤裸裸的背叛

诉讼援引微软 CEO Satya Nadella 最近的一次采访,控告微软与 OpenAI 关系密切。针对去年 OpenAI 发生的「宫斗」事件,Nadella 表示,如果「OpenAI 明天就消失了…… 我们拥有所有的知识产权和才能。我们有人,我们有计算,我们有数据,我们拥有一切。We are below them, above them, around them」。该诉讼将此作为 OpenAI 为微软利益服务的有力凭证。

基于此,该诉讼要求强迫 OpenAI 公开发布其技巧,并禁止 OpenAI 利用该技巧为微软、Altman 或 Brockman 谋取经济利益。

该诉讼还要求法院裁定,GPT-4 等人工智能系统和其他正在开发的先进模型构成通用人工智能,超越了微软与 OpenAI 许可协定的范围。除了强制 OpenAI 执行禁令之外,马斯克还要求法院在发现 OpenAI 现在是为了私人利益而运营时,对其用于资助公益钻研的捐款进行核算和可能的归还。

根据法律诉状,马斯克在 2016 年至 2020 年 9 月期间向 OpenAI 捐赠了超过 4400 万美元。诉讼补充道,在最初几年,他是 OpenAI 最大的捐款人。马斯克在 2018 年离开了 OpenAI 的董事会,他早些时候表示,有人向他提供了这家初创公司营利部门的股份,但他出于原则立场拒绝接受。

不过,马斯克想打赢这场官司可能不那么容易,因为他所给出的诉讼文献涉及一些尚未理清的事实,比如 OpenAI 真的开发出 AGI 了吗?所谓的「首创协定」到底能否存在?这些问题给诉讼带来了不小的难度。

OpenAI 开发出 AGI 了吗?

此案的很大一部分内容都围绕着一个大胆而又令人质疑的技巧主张:OpenAI 开发出了所谓的通用人工智能。

诉讼称,「依据所了解的信息和据此形成的推断(on information and belief),GPT-4 是一种 AGI 算法」。诉讼文献引用了一些钻研,发现 GPT-4 可以在状师资格统一考试和其他标准测试中获得及格分数,以此证明它已经超越了人类的某些基本才能。「GPT-4 不仅具有推理才能,而且比普通人更善于推理,」该诉讼称。

微软去年 4 月发布的论文 ——「Sparks of Artificial General Intelligence: Early experiments with GPT-4」就在被引用的钻研之列。在这篇论文,微软提出了一个断言 ——「鉴于 GPT-4 才能的广度和深度,我们相信它应该被合理视作一个通用人工智能(AGI)系统的早期(但仍不完整)版本。」如今,这句话被马斯克作为凭证写进了诉讼文献。

马斯克起诉OpenAI:他们做出了AGI还授权给微软,这是对首创协定赤裸裸的背叛

同样被列为凭证的还有传闻中提到的 OpenAI 神秘模型 ——Q*(Q star),诉讼文献称,该模型更接近 AGI。

此外,文献还提到,微软只对 OpenAI 某些达到 AGI 之前的技巧拥有权利。不过,就微软的许可而言,OpenAI 能否达到 AGI 由 OpenAI 公司的董事会决定,而 OpenAI 现在的董事会不才能判断 OpenAI 开发的算法能否达到了 AGI。

2023 年 11 月 17 日,OpenAI 公司董事会解雇了 Altman 先生,因为『他不始终如一地对董事会坦诚相待』,董事会对他继续领导 OpenAI 的才能失去了信心。在接下来几天的一系列令人震惊的事态发展中,Altman 先生和 Brockman 先生与微软联手,利用微软对 OpenAI 公司的巨大影响力,迫使 OpenAI 公司董事会大多数成员辞职,其中包括首席科学家 Ilya Sutskever。

据了解,新的董事会成员是由 Altman 先生亲自挑选的,并得到了微软的支持。新的董事会成员缺乏大量的人工智能专业知识,据了解,他们不才能独立判断 OpenAI 能否以及何时达到了 AGI,也就无法判断 OpenAI 开发的算法能否超出了微软的许可范围。

对于诉讼中提到的这些信息和推论,人工智能领域的很多专家都表示不办法认可。

华盛顿大学名誉教授、人工智能专家 Oren Etzioni 说:「GPT-4 是通用的,但它显然不是人们通常所指的 AGI」。

斯坦福大学专门钻研人工智能和语言的教授 Christopher Manning 在谈到马斯克诉讼中的 AGI 断言时说:「这将被视为一种夸大的说法」。Manning 说,人工智能界对什么是 AGI 存在不同看法。一些专家可能会降低标准,以为 GPT-4 能够执行多种功能,因此有理由将其称为 AGI,而另一些专家则倾向于将这一术语保留给能够在任何事情上胜过大多数或所有人类的算法。他说:「根据这个定义,我以为我们显然还不 AGI,而且离它还很远。」

加州大学伯克利分校教授 Michael Jordan 说:「我感觉我们中的大多数钻研人员都以为,大型语言模型(如 GPT-4)是一个非常重要的工具,可以让人类做更多的事情,但它们的局限性使得它们远非独立的智能体。」

Jordan 倾向于完全避免使用 AGI 这个词,因为它太模糊了。他说:「我从未发现马斯克有任何关于人工智能的言论是经过校准或基于钻研现实的。」

马斯克的诉讼面临的另一个困难是,OpenAI 长期以来一直使用自己对 AGI 的定义,将其描述为「在大多数有经济价值的工作中胜过人类的高度自主系统」。如今看来,GPT-4 与这一标准相去甚远。

有趣的是,就连马斯克自己提出的 AGI 定义都能将 GPT-4 移出 AGI 之列。2022 年 12 月,在他宣布 OpenAI 新推出的 ChatGPT「好得吓人」之后不久,这位企业家提出,算法需要「发明惊人的东西或发现更深层次的物理学」,才能配得上这一称号。马斯克写道:「我还不看到这种潜力。」

马斯克起诉OpenAI:他们做出了AGI还授权给微软,这是对首创协定赤裸裸的背叛

斯坦福大学法学院教授 Mark Lemley 对 AGI 的主张和该诉讼更广泛的法律依据表示怀疑。虽然 OpenAI 看起来确实不那么开放了,而且变得更加以利润为中心,但这给马斯克带来了什么权利还远不清楚。

Lemley 说:「值得注意的是,诉状中并不包含马斯克与该公司之间的任何条约,也不包含他执行这些原则或拿回钱的任何权利的文本。」如果存在这些文献,我希望它们能在诉状中占据显著位置。

「首创协定」在哪里?

另一项颇具争议的内容是马斯克在诉状里提到的「首创协定」,而这份协定并不出现在凭证附件里。

The Verge 网站主编 Nilay Patel 以为,马斯克是在控告 OpenAI 违反了一份并不存在的条约。而且违约索赔中也承认,「首创协定」基本上就是大家在一些电子邮件中捕捉到的蛛丝马迹。

诉讼文献中写道,「OpenAI, Inc. 的首创公司章程以及原告与被告之间多年来的多次书面沟通等文献中均有关于该首创协定的记载(memorialize)。」

Nilay Patel 以为,马斯克的状师故意用了「memorialize」一词来替代「written down」,这是因为难懂的内容更容易赚状师费。

接着,它又引用了「公司章程」,但这不是条约,马斯克也不签署,只是简单地写了以下内容:

该公司的具体目的是为人工智能相关技巧的钻研、开发和传播提供资金。由此产生的技巧将造福于公众,公司将在适用的情况下寻求开源技巧,以造福于公众。本公司的成立不为任何人谋取私利。

这里不任何协定 —— 也许 OpenAI 复杂的公司结构(包括非营利性公司拥有营利性公司)确实颠覆了这份文献中阐述的理想,但马斯克不能因此起诉,因为这不是一份条约。

违约索赔还提到了 Sam Altman 写给 Elon Musk 的一封电子邮件,其中提到 OpenAI 开发的技巧将用于「造福世界」,马斯克回复说:「完全同意。」

马斯克起诉OpenAI:他们做出了AGI还授权给微软,这是对首创协定赤裸裸的背叛

Nilay Patel 表示,他问了几个状师朋友这些看起来像不像条约,他们大多一脸茫然。这与马斯克对条约运作方式越来越模糊的理解如出一辙。

综合来看,Nilay Patel 以为,马斯克对 OpenAI 的批评是有道理的,但他请的状师让人感觉一言难尽。「他的状师们已经发现,让这位世界首富在无厘头的诉讼中耗费大量的计费时间,比让『事实』符合『法律』或其他普通状师所做的事情更有利可图。」

自 OpenAI 走向闭源以来,马斯克一直在各个平台上抨击这家公司,并表示自己担心 AGI 可能逃离人类控制,采取危害地球的行动。Altman 过去也曾谈到马斯克的一些担忧,他评价马斯克说,「我喜欢这家伙。我以为他完全错了,」「他可以说任何他想说的话,但我为我们正在做的事情感到自豪,我以为我们将为世界做出积极贡献,我试图超越这一切。」

参考链接:

https://www.wired.com/story/wild-claim-at-the-heart-of-elon-musks-openai-lawsuit/

https://www.theverge.com/2024/3/1/24087937/elon-musk-suing-openai-nightmare-1l-contracts-exam

给TA打赏
共{{data.count}}人
人已打赏
应用

2万多亿美元,英伟达市值创新高,华尔街排第三

2024-3-4 11:26:00

应用

大一统视频编纂框架:浙大&微软推出UniEdit,无须训练、支持多种编纂场景

2024-3-4 11:43:00

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
搜索