支付宝AI新进展:发布多模态医疗大模型,携手20家机构发起AI医疗共建计划

7月5日,在2024世界人工智能大会“可信大模型论坛”上,支付宝公布了其AI技术在医疗领域布局的最新进展:发布多模态医疗大模型,同时,全新推出包括医疗可信一体机、可信云等多款数智化解决方案。现场,支付宝还与人民卫生出版社、北京大学医学部、浙江省卫生健康委等20家机构,联合发起AI医疗共建计划,共同探索AI数智技术底座与创新应用服务。支付宝多模态医疗大模型亮相经过半年多测试打磨,支付宝医疗大模型正式亮相,这也是国内首批多模态医疗大模型之一。蚂蚁集团大模型应用部总经理顾进杰介绍了背后的技术研发。蚂蚁百灵大模型已具备能“

7月5日,在2024世界人工智能大会“可信大模型论坛”上,支付宝公布了其AI技术在医疗领域布局的最新进展:发布多模态医疗大模型,同时,全新推出包括医疗可信一体机、可信云等多款数智化解决方案。现场,支付宝还与人民卫生出版社、北京大学医学部、浙江省卫生健康委等20家机构,联合发起AI医疗共建计划,共同探索AI数智技术底座与创新应用服务。

支付宝多模态医疗大模型亮相

经过半年多测试打磨,支付宝医疗大模型正式亮相,这也是国内首批多模态医疗大模型之一。

蚂蚁集团大模型应用部总经理顾进杰介绍了背后的技术研发。蚂蚁百灵大模型已具备能“看”会“听”、能“说”会“画”的原生多模态能力,可以直接理解并训练音频、视频、图、文等多模态数据。支付宝医疗大模型以此为基座模型,添加了包含报告、影像、药品等百亿级中英文图文、千亿级医疗文本语料及千万级高质量医疗知识图谱,中英文医疗考试、基准测试达到或超过GPT4水准,医疗专业能力在中文医疗LLM评测榜单promptCBLUE中,位列A榜第一,B榜第二。同时,全栈自研医疗多模态结构,使得模型识别报告、药品、毛发等图像准确率达90%以上,相关技术在行业顶尖技术期刊与会议 CVPR、KDD、ECCV等发表了多项成果。

为了让回答对话更加可靠,在研发阶段,支付宝还与数百个专业医学团队、专家进行合作标注数据,保障信息权威可信,同时联合上海仁济医院推出首个中文医疗专科问答推理数据集RJUA-QA。模型测试阶段,用户、患者、医生参与问答反馈,在专业同时,兼顾患者关怀。

支付宝AI新进展:发布多模态医疗大模型,携手20家机构发起AI医疗共建计划

支付宝医疗大模型发布现场

目前,该多模态医疗大模型不仅提供智能问答、病历结构化和检索、辅助诊断,还可识别解读药品及上百种复杂的医学报告,进行毛发健康检测等,这些都能嵌入医院等机构医疗环节全流程,创新医疗服务的同时,也助力提升机构运营效率。

顾进杰表示,AI的深度应用,不仅对数据、算法、算力提出了更高要求,也对可靠、安全、隐私提出更多挑战,医疗场景下,保障技术可靠与数据隐私安全,至关重要。为此,支付宝面向行业推出全新的“医疗可信一体机+可信云”的解决方案,通过密态计算与存储,让医疗数据可用不可见,机构保管更安全。

据介绍,百灵医疗可信一体机,核心解决医院面临的算力不足痛点,可实现开箱即用,训推一体,支持国产算力,软硬件协同优化加速。医疗大模型可信云方案,通过公有云与专有云部署密态推理,聚焦解决数据隐私安全和商业机密保护问题。

AI医疗创新应用“联盟”来了

从去年以来,支付宝就加速了AI技术在医疗领域的开放与布局。去年11月,浙江卫健委应用支付宝开放的“AI就医助理”解决方案,依托大模型、数字人技术,打造了全国首个数字健康人“安诊儿”,给浙江居民提供云陪诊、健康咨询等服务,上线以来,服务了1000多家医疗机构。上海市第一人民医院,应用AI大模型,不仅上线了上海首个可语音交互的“数字陪诊师”,还在业内首创了生成式电子病历,将繁杂的文书工作从原本的10分钟缩减到了15秒。

医疗技术的创新,需要依托平台、产业、学界共同努力。大会现场,支付宝、人民卫生出版社、北京大学医学部、浙江省卫生健康委、厦门市卫生健康委员会、浙江省人民医院、上海交通大学医学院附属仁济医院、北京大学人民医院、复旦大学附属肿瘤医院、上海市第一人民医院、首都医科大学附属医院等20多家机构、企业,联合发起了AI医疗共建计划,共同探索大模型应用及各类专科模型创新研发。

支付宝AI新进展:发布多模态医疗大模型,携手20家机构发起AI医疗共建计划

支付宝AI医疗共建计划启动现场

支付宝副总裁、数字医疗健康事业部总经理张俊杰表示:“支付宝希望用最顶尖的技术做最普惠的服务,让AI像‘扫码支付’一样便利每个人的生活。支付宝也会持续开放AI技术与行业解决方案,携手合作伙伴一起,推动智能医疗走向普惠、普及。”

据了解,2014年支付宝支持全国第一笔远程挂号缴费,经过十年发展,平台已服务超6亿看病就医人群,是国内规模最大的医保第三方在线服务平台、一站式的医疗健康服务平台。目前,全国300多个城市、超3600家医院在支付宝上提供一站式数字医疗服务。

相关资讯

蚂蚁百灵大模型:多模态能力提升,将应用在支付宝智能助理等

IT之家从蚂蚁集团获悉,蚂蚁集团自研的百灵大模型的多模态能力全面提升。多模态能力让大模型能“看”会“听”,能“说”会“画”,可支持音、视、图、文等多模态理解与生成,可以让大模型更像人一样感知和互动,未来将应用在支付宝智能助理、AI 金融管家和 AI 就医助理等多个 AI 智能体。支付宝智能助理是基于蚂蚁集团自研的百灵大模型研发的一款全新的生活办事 AI 产品,它围绕用户的吃、喝、行、游、办事、买票、娱乐等数十种生活场景,只需要“问一问”,可以获得出行、健康、政务、金融等领域的超 8000 项数字生活服务。据介绍,“

开源多模态医疗基础模型RadFM,首次支持2D/3D放射影像输入

上海交大&上海AI Lab发布开源多模态医疗大模型RadFM

支付宝推出 AI 毛发自测工具:上传照片可测脱发程度

支付宝周四宣布上线“AI 毛发自测”工具,用户上传数张头皮照片后,即可通过 AI 大模型能力识别脱发类型、级别,并接受来自 AI 的“健康建议”。据该项目负责人蔡科发介绍,研发该应用的初衷是希望更多人能够及时、科学地认识自己的脱发水平,避免听信土豆、生姜擦头一类的偏方,错过了最佳的养护时机。他还谈到了自己有关于“脱发”的经历:“我第一次意识到自己脱发,是看到女儿在幼儿园里画的爸爸,居然只有三根头发。”此次推出的“AI 毛发自测”由支付宝和杭州一家医院脱发专科门诊医生共同研发,基于蚂蚁百灵多模态大模型识别技术、人工智