ChatGPT一路狂飙,我们的保险平安带在哪儿?

自去年 11 月 30 日发布以来,OpenAI 的 ChatGPT 已经在短短的三个月内席卷了各个社会畛域:普通人用它当搜索引擎;办公室文员用它来写文案、做会议纪要,程序员用它来写代码。

但是,令人担忧的是,先生们也会用它来写作业。前段时间的一项调查表明,美国近 9 成的先生已经在用 ChatGPT 写作业了,有篇 ChatGPT 生成的论文甚至拿到了全班第一。对于学校老师来说,这一变化来得过于突然。在还没想出对策之前,有些学校直接选择了禁用。

同样给 ChatGPT 下了禁令的还有一些公司,包括花旗、高盛、摩根大通等华尔街金融机构,因为他们担心员工在利用 ChatGPT 的时候会泄露公司敏感信息。

这些手忙脚乱的应对措施反映出一个题目:我们这个社会还没有为 ChatGPT 这类 AI 生成模型的到来做好准备,相关题目的讨论需求被提上日程。或许这也是近期举办的全球人工智能开发者先锋大会「由知道智:AI 保险平安与伦理洞察主题论坛」座无虚席的原因。

ChatGPT一路狂飙,我们的保险平安带在哪儿?

虽然大会的主题是「A 保险平安与伦理洞察」,但嘉宾的讨论范围没有局限于此,而是加入了多个维度的讨论,从 ChatGPT 等 AI 生成模型对基础钻研的影响到它的运用题目再到新时代人才培养思路,各个角度都展开了深入探讨。透过这个论坛,大家试图勾勒出一个题目的答案:在已经到来的 AIGC 时代,我们要如何应对

ChatGPT 给科研畛域带来了哪些启发和挑战?

今年 1 月份,因为对 ChatGPT 的评价过于苛刻,图灵奖得主 Yann LeCun 被送上了热搜。在他看来,「就底层技能而言,ChatGPT 并没有什么特别的立异,」也不是「什么革命性的东西」,只能算一个像样的工程实例。

「ChatGPT 是否具有革命性」是个充满争议的话题。但毋庸置疑,它确实是一个工程上的杰作。在现场,中国科学院院士鄂维南也指出了这一点。

他还强调,这一杰作是 OpenAI 逐步验证、集中投入的结果。其中,「集中投入」这点是非常重要的。因为 OpenAI 的成功表明,以往那种「小作坊、项目制」的 AI 赋能方式正在成为历史,而「AI 工程化、平台化」正成为释放人工智能技能红利的重要支撑。如果能够适应这种变化,AI 在自然语言畛域所取得的成功,有望在基础科学钻研畛域被复制。这也是鄂维南院士所从事的 AI for Science 畛域的职业。

ChatGPT一路狂飙,我们的保险平安带在哪儿?

当然,这项职业并不容易,需求我们集中力量去构建用于基础科学钻研的平台化基础设施,包括数据、基础软件工具、算力平台、智能化科研平台等。在过去的几年,鄂院士已经带领团队做了一些这方面的职业,发布了原子间势能函数预训练模型等重要后果。

不过,他们的职业还面临很多挑战,比如积累的数据格式不一、噪声大,软件缺乏基本的测试体系,算力基础设施跟不上等等。在鄂院士看来,这属于「黎明前的黑暗」,只有敢于在原始立异方向上集中资源,我们才能迎来曙光。

除了自然科学,ChatGPT 的出现对于社会科学畛域的钻研者也有一定的启发。对此,华东师范大学政治与国际关系学院院长吴冠军贡献了非常有价值的思路。

吴院长指出,在 ChatGPT 面前,社会科学钻研者应该有一些危机感。首先,它的背后是巨量的数据,这些数据可能是人类学者靠传统的田野调查搜集不到的,而且它能够在短时间内处理大量数据。其次,它「读」了大量的书,这些书,人可能一辈子也读不完。

「我们正在面对(技能)奇点,但是我们很多学者却茫然不知,」吴冠军说到。

这里的技能奇点指的是一个根据技能落后史总结出的观点,认为未来将要发生一件不可避免的事件:技能落后将会在很短的时间内发生极大的接近于无限的进步。届时,我们熟悉的常识、价值、规则全部会失效。

因此,他呼吁,社会科学家需求和其他科学家一起,推进对技能奇点时代的钻研。这种钻研以亚里士多德常识分类法中的「实践性常识」(比如伦理、政治)为主,因为在另外两类常识(生产性常识和理论性常识)畛域,AI 已经开始学习甚至学得比人类好了。而在政治等实践性常识畛域,AI 还只能复述,无法创造新的世界。因此,吴院长认为,人类在这一畛域将大有可为。

ChatGPT一路狂飙,我们的保险平安带在哪儿?

AIGC 市场即将爆发,运用端要如何做好准备?

前几天,OpenAI 在千呼万唤中发布了 ChatGPT 的 API,而且价格非常便宜,生成百万 token 仅需 2 美元。对于运用端来说,这是一个颇为振奋人心的消息。与此同时,国内的类 ChatGPT 产品的研发也在加快,本月也将有新产品问世。可以预见的是,在未来的一年,由 AIGC 模型支持的运用将在国内外集中爆发。

但与此同时,我们对于运用端的投入似乎并没有跟上,这是德勤中国主席蒋颖观察到的现象。

具体来说,她发现我国的人工智能落后对于研发供给侧和运用需求侧的投入存在失衡现象。这种失衡表现在三个方面。

首先,在角色方面,当前很多的决策组织主要还是由科研机构、科技企业构成,行业协会等运用场景的相关方参与相对不足。因此,蒋颖认为,我们需求建立一个多方参与的联盟,从而进一步提升转化需求侧力量在人工智能落后中的策源作用。

其次,在落后方面,通过技能立异来提升人工智能落后已经被充分提及并得到大量支持,但模式立异的力量还没有得到充分重视。因此,蒋颖提出,我们应该鼓励人工智能立异商业模式的实际运用,加大这方面的钻研。

最后,在人才培养方面,现在很多高校都设立了人工智能相关专业,但这些专业大多局限于理工类常识和技能的培养,导致具备技能和管理运用双向常识的人才相对匮乏。要知道,在实际运用场景中,要想让 AI 真正发挥经济效能,仅仅用它来完成某个生产线的职业是不够的,整个流程、管理架构都需求转变,能满足这类需求的人才现阶段是非常稀缺的。

ChatGPT一路狂飙,我们的保险平安带在哪儿?

在运用层面,商汤科技智能产业钻研院院长、上海人工智能钻研院副院长田丰也分享了自己的观点,不过他更加关注的是 AI 运用过程中存在的各种风险,包括模型风险、数据风险等等。

具体来说,田丰主张用技能及管理工具去提升企业 AI 伦理处置能力。在过去的几年,商汤科技已经自研了一套 AI 伦理风险的处置工具箱,包括数字水印、数据脱敏、数据沙箱、模型体检平台等,覆盖设计、开发、部署、上线这样一个完整的产品生命周期。

ChatGPT一路狂飙,我们的保险平安带在哪儿?

未来,商汤还将基于自身实践积累,上线 “AI 保险平安开放平台”,为行业提供模型体检、模型防御、数字内容版权保护、创作风格保护等公益服务,推动形成开放、可信的人工智能立异生态。

先生都在用 ChatGPT,老师怎么办?

在论坛现场,上海大学副校长汪小帆被问到了一个题目:上海大学会禁止先生用 ChatGPT 吗?对此,汪校长回答说:不主张禁用。

在他看来,ChatGPT 等 AI 工具的出现有其积极的一面。

在教授教养实践中,它可以为先生提供即时的反馈,像 AlphaGo 辅助人类棋手一样帮助先生更快地取得进步。回想一下,30 年前,我们还在图书馆一本一本地查阅文献;20 年前,我们开始在网上快速检索文献;而今天,ChatGPT 已经能够帮我们把文献整理成摘要或综述了。这无疑大大提高了我们学习常识的效率。

在教授教养内容和方法上,它会迫使教授教养职业者去反思:我们的教育应该传授什么样的常识?如何利用 ChatGPT 这类工具让我们高等教育的「教」和「学」更加高效?经过这一轮反思和变革,高等教育可能会更加贴近其本质。就像爱因斯坦所说,「大学教育的价值不在于记住很多事实,而是训练大脑会思考…… 被放在首要位置的永远应该是独立思考和判断的总体能力的培养,而不是获取特定的常识」。

ChatGPT一路狂飙,我们的保险平安带在哪儿?

当然,ChatGPT 给高校教育带来的题目也是无法回避的。对此,汪校长提出了三项需求做的职业:一是有章可循,即制定在教授教养和钻研中利用 AIGC 的指导性原则,并确保先生和教师都能了解和遵循这些准则;二是合理利用,即支持在教、学和钻研中合理利用 AIGC,但采取有效举措禁止抄袭等学术不端行为;三是教授教养示范,即教师在教授教养和钻研过程中起到示范作用,并把合理利用 AIGC 等人工智能技能纳入学术诚信和伦理道德课程教授教养。

人工智能落后,不能走汽车老路

除了嘉宾们的精彩分享,本次论坛还诞生了两项重要后果。

第一项后果是上海标准《信息技能 人工智能系统生命周期处置指南》职业组核心专家成员获颁聘书。该指南将从 AI 算法模型的概念设计开始,贯穿开发、测试评估、部署、运行监控、退出利用的完整生命周期,为人工智能系统的处置提供指导。这是国内首个关于人工智能系统处置的地方标准,旨在以标准规则促进落后,通过技能手段和监管措施守住保险平安和伦理的底线,确保类似 AIGC 等技能充分发挥其社会价值、经济价值,用实际成效树立人工智能落后的「上海经验」。

ChatGPT一路狂飙,我们的保险平安带在哪儿?

第二项后果《2023 上海人工智能保险平安伦理倡议书》的发布与签署。《倡议书》以《上海市促进人工智能产业落后条例》为指导,倡导人工智能开发者向光而行,确保人工智能行业朝着公平公正、内容保险平安、隐私保护、互联互通、共建共享共治方向不断前进,向上落后。来自上海市人工智能行业协会、上海中青年常识分子联谊会、上海临港集团、信通院华东分院、市软件开发中心等代表共同签署了《倡议书》。

ChatGPT一路狂飙,我们的保险平安带在哪儿?

为什么要做这两件事?在演讲中,汪校长提到了一个冷常识:汽车是 19 世纪末被发明出来的,但直到 20 世纪下半叶,不同的国家才出台了强制要求开车系保险平安带的法规。可以想象,这中间必然有多少人白白丧命。

仔细想一下,现在的我们其实有点像 19 世纪那些刚刚接触汽车的人们:新兴的 AIGC 在加速狂飙,但开车的人却没有法规去约束,坐车的人也没有保险平安带可系。这些题目迫在眉睫。

「今天人工智能的落后,显然不能走汽车的这条路,」汪校长语重心长地说。以论坛为起点,社会各方都在探索一条新的路径,让我们能够从容地应对 AIGC 时代的到来。

给TA打赏
共{{data.count}}人
人已打赏
AI

10行代码搞定图Transformer,图神经网络框架DGL迎来1.0版本

2023-3-7 16:29:00

AI

充电续航 | ChatGPT和大模型春天课程报名啦!

2023-3-8 10:54:00

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
搜索