2025年企业扩展GenAI管道:自建与外部采购策略探索

在平衡雄心与实用性方面,扩大生成式工具的采用规模一直是一项挑战,而2025年,这一挑战比以往任何时候都要严峻。 争相采用大型语言模型(LLM)的企业正面临新的现实:扩展规模不仅仅是部署更大的模型或投资前沿工具——而且要以能够转变业务运营、增强团队能力和优化成本的方式整合AI。 成功不仅仅取决于技术,它还需要文化和运营上的转变,使AI能力与业务目标相契合。

2025年企业扩展GenAI管道:自建与外部采购策略探索

在平衡雄心与实用性方面,扩大生成式工具的采用规模一直是一项挑战,而2025年,这一挑战比以往任何时候都要严峻。争相采用大型语言模型(LLM)的企业正面临新的现实:扩展规模不仅仅是部署更大的模型或投资前沿工具——而且要以能够转变业务运营、增强团队能力和优化成本的方式整合AI。成功不仅仅取决于技术,它还需要文化和运营上的转变,使AI能力与业务目标相契合。

扩展规模的迫切性:2025年的不同之处

随着GenAI从实验阶段发展到企业级部署,企业正面临一个转折点。早期采用的兴奋感已被保持效率、管理成本和在竞争激烈的市场中保持相关性的实际挑战所取代。2025年扩展AI规模的关键在于回答一些棘手的问题:企业如何使生成式工具在各部门间发挥影响力?何种基础设施能在不造成资源瓶颈的情况下支持AI的增长?或许最重要的是,团队如何适应AI驱动的工作流程?

成功取决于三个关键原则:确定明确且高价值的用例,保持技术灵活性,以及培养具备适应能力的员工队伍。成功的企业不仅仅采用通用AI——它们还制定战略,使技术与业务需求相契合,并持续重新评估成本、性能以及持续影响所需的文化转变。这种方法不仅仅在于部署前沿工具,它还关乎在技术和市场飞速变化的环境中构建运营韧性和可扩展性。

Wayfair和Expedia等公司体现了这些经验教训,展示了混合方法如何转变LLM的采用和运营。通过将外部平台与定制解决方案相结合,这些企业展示了在敏捷性与精确性之间取得平衡的力量,为其他企业树立了榜样。

结合定制化与灵活性

构建或购买GenAI工具的决定往往被描绘为非此即彼的选择,但Wayfair和Expedia展示了微妙策略的优势。Wayfair的首席技术官Fiona Tan强调了平衡灵活性与特定性的价值。Wayfair使用谷歌的Vertex AI进行通用应用,同时开发专有工具以满足特定需求。Tan分享了公司的迭代方法,并阐述了较小、成本效益高的模型在标注产品属性(如面料和家具颜色)方面往往优于更大、更昂贵的选项。

同样,Expedia采用了一个多供应商LLM代理层,允许无缝集成各种模型。Expedia的高级副总裁Rajesh Naidu将其战略描述为一种在优化成本的同时保持敏捷性的方式。“我们总是伺机而动,在合理的情况下寻找最佳[模型],但我们也愿意为自己的领域进行构建。”Naidu解释说。这种灵活性确保了团队能够适应不断变化的业务需求,而不受单一供应商的束缚。

这种混合方法让人想起了20世纪90年代的ERP演变,当时企业必须在采用僵化的现成解决方案和重度定制系统以适应其工作流程之间做出选择。当时和现在一样,成功的企业认识到了将外部工具与定制开发相结合以解决特定运营挑战的价值。

核心业务功能的运营效率

Wayfair和Expedia都证明了LLM的真正力量在于能够带来可衡量影响的目标应用。Wayfair使用GenAI丰富其产品目录,以自主准确性增强元数据。这不仅简化了工作流程,还改进了搜索和客户推荐。Tan强调了另一个变革性的应用:利用LLM分析过时的数据库结构。由于原始系统设计者已不在,GenAI使Wayfair能够减轻技术债务,并在遗留系统中发现新的效率。

Expedia在客户服务和开发人员工作流程中成功集成了GenAI。Naidu分享说,一个为呼叫总结设计的定制GenAI工具确保“90%的旅行者可以在30秒内联系到客服”,从而显著提高了客户满意度。此外,GitHub Copilot已在全企业范围内部署,加速了代码生成和调试。这些运营收益凸显了将GenAI能力与明确且高价值的商业用例相结合的重要性。

硬件在GenAI中的作用

扩展LLM时,硬件方面的考虑往往被忽视,但它们在长期可持续性中发挥着关键作用。Wayfair和Expedia目前都依赖云基础设施来管理其GenAI工作负载。Tan指出,Wayfair继续评估谷歌等云提供商的可扩展性,同时关注未来对本地化基础设施的潜在需求,以更高效地处理实时应用。

Expedia的方法也强调了灵活性。该公司主要托管在AWS上,并采用了一个代理层来动态地将任务路由到最合适的计算环境。该系统在性能与成本效率之间取得了平衡,确保了推理成本不会失控。Naidu强调了这种适应性的重要性,因为企业级GenAI应用变得越来越复杂,需要更高的处理能力。

对基础设施的关注反映了企业计算的更广泛趋势,让人想起了从单体数据中心向微服务架构的转变。随着Wayfair和Expedia等公司扩展其LLM能力,它们展示了在云可扩展性与边缘计算和定制芯片等新兴选项之间取得平衡的重要性。

培训、治理和变革管理

部署LLM不仅仅是一项技术挑战——它也是一项文化挑战。Wayfair和Expedia都强调了培养组织对采用和整合GenAI工具的准备工作的重要性。在Wayfair,全面的培训确保各部门员工能够适应新的工作流程,特别是在客户服务等领域,AI生成的回复需要人工监督以匹配公司的语气和语调。

Expedia通过成立负责任AI委员会来监督所有与GenAI相关的重大决策,从而将治理工作更进一步。该委员会确保部署符合道德准则和业务目标,在整个企业中培养信任。Naidu强调了重新思考衡量GenAI有效性的指标的重要性。传统的关键绩效指标(KPI)往往不足,促使Expedia采用与业务目标更一致的精确度和召回率指标。

这些文化适应对于GenAI在企业环境中的长期成功至关重要。单靠技术无法推动转型,转型需要一个能够利用GenAI能力的员工队伍,以及一个确保负责任实施的治理结构。

扩展成功的经验教训

Wayfair和Expedia的经验为任何希望有效扩展LLM的企业提供了宝贵教训。这两家公司都证明,成功的关键在于确定明确的商业用例、在技术选择上保持灵活性,以及培养适应文化。它们的混合方法为在创新与效率之间取得平衡提供了模型,确保了GenAI投资能够带来切实成果。

2025年扩展AI规模之所以成为前所未有的挑战,是因为技术和文化变革的速度。今天定义成功AI部署的混合策略、灵活基础设施和强大的数据文化,将为下一波创新奠定基础。现在建立这些基础的企业不仅将扩展AI,它们还将扩展韧性、适应性和竞争优势。

展望未来,推理成本、实时能力和不断演变的基础设施需求等挑战将继续塑造企业级GenAI的格局。正如Naidu恰如其分地指出:“GenAI和LLM对我们来说将是一项长期投资,并且已使我们在旅游领域脱颖而出。我们必须意识到,这将需要有意识地优先安排投资,并深入了解用例。”

相关资讯

CIO们需要直面GenAI的成长阵痛

在GenAI的成功没有固定框架,且几乎没有成功的生产案例可供借鉴的情况下,IT领导者们即便开始关注一些最佳实践,也仍然只有粗略的路线图。 对于IT领导者而言,将GenAI的潜力转化为商业价值的道路仍然陡峭且令人畏惧,但GenAI路线图的关键组成部分——数据、平台和技能——正在不断发展并变得更加明确。 这是上周在MIT举办的Big.AI@MIT活动中,“GenAI在商业中的下一步”小组讨论的关键要点,该讨论由埃森哲的首席AI官(CAIO)兰·关(Lan Guan)主持。

AI技术:制造业的未来还是泡沫幻影?

在探讨制造业的未来时,一个不可忽视的趋势是高科技制造业对人工的依赖正在逐渐减少。 传统观念中,人工操作往往被视为生产过程中的污染源,如呼吸、皮肤屑、头发等都会对精密制造构成威胁,同时人工操作也伴随着各种错误和失误的风险。 因此,全自动化的生产车间,依托人工智能技术的强大支撑,正逐步崛起为制造业发展的新航标。

六位专家探讨如何平衡IT项目、支出和风险

要构建一个具有韧性的技术体系,高管董事会必须在拥抱新技术的同时管理风险,并使支出与业务目标相一致。 企业技术领导者已从其企业获得了明确的指示:利用最佳技术支持更广泛的业务目标。 为了实现这一目标,CIO需关注两个关键因素:成本和风险。