近日，关于字节跳动大语言模型研发技术专家杨红霞离职创业的事情，坊间传得沸沸扬扬。
此前，杨红霞为大家所熟知的是，她曾是阿里达摩院万亿参数规模多模态预训练模型 M6 的技术负责人，参与过北京智源研究院主导的“悟道”大模型项目，而该项目是中国最早的大模型项目之一。
2007 年，杨红霞从南开大学本科毕业后，赴杜克大学攻读博士，师从著名统计学家 David Dunson，著有超过 100 篇杰出学术论文。
博士毕业后，杨红霞入职 IBM 全球研发中心任 Watson 研究员，之后又加入雅虎公司，担任首席数据科学家。
2016年，杨红霞回国加入阿里达摩院，就职期间杨红霞的职级为 P9，曾任达摩院智能计算实验室主任，作为技术负责人，一路见证了 M6 从百亿、千亿进化到万亿参数量规模。
去年年初，杨红霞加入字节跳动 AML（Applied Machine Learning，机器学习系统），向团队的负责人项亮汇报，带领一支大约 40 人的团队。
如今，杨红霞身上又多了一层创业者的身份。
今年以来，通用大模型格局逐渐收缩，落地应用成为主旋律，越来越多的目光开始瞄向行业、端侧大模型。而端侧模型，主要应用在手机、电脑、智能网联汽车等终端设备上，具有成本低、移动性强、数据安全等优势，正逐渐成为行业追逐的热门话题。
今年 2 月，清华 THUNLP 走出的 AI 公司——面壁智能推出 20 亿参数的开源端侧模型 MiniCPM；
4 月，商汤推出 1.8B 参数规模的 SenseChat-Lite 版本端侧⼤模型；
5 月，来自斯坦福大学的 NEXA AI 团队发布了全球首个参数量小于 10 亿的多模态 AI Agent 模型 Octopus V3，在函数调用性能上远超同类模型，可与 GPT-4V+GPT4 相媲美，更是将端侧模型卷到新高度。
据了解，NEXA AI 团队创始人兼首席科学家陈伟（Alex Chen），正在攻读斯坦福大学博士学位，拥有丰富的AI研究经验；联合创始人兼首席技术官李志远，毕业于斯坦福大学，并在 Google 和 Amazon Lab 126 实验室拥有 4 年端侧 AI 的研发经验。
不管是手机，还是电脑，或者汽车，在人们的生活中都扮演着重要角色，可见，端侧大模型前景广阔，在如何更好地训练出小且好用的端侧模型的新行业命题下，大有可为。