大模型落地,百度智能云的关键一步甲子光年

中科治疗白癜风有疗效 https://wapjbk.39.net/yiyuanfengcai/ys_bjzkbdfyy/790/
#我的旅行日记#

大模型落地排位赛开启。

作者｜武静静

编辑｜栗子

大模型的角逐戏切换到了下一幕。

在基础大模型排位赛如火如荼进行的同时，随着各家产品逐步面向公众开放，围绕AI原生应用的赛跑拉开了帷幕。

纵观全球市场，基于生成式AI构建的AI原生应用已经应接不暇。数据显示，GitHub上AI开源项目截止8月底数量达到了91万，相较于去年全年的增幅达到%。根据Replit的数据，23年二季度AI项目环比增速达80%，相较于去年同期同比增长了34倍。

多位投资人都向「甲子光年」谈道，目前只看AI应用层机会。根据CBInsights数据，截至年第二季度，生成式AI的投融资较去年全年的25亿美元，增长了4.6倍，其中生成式AI应用层融资金融占三成。可以预见，这个比例将在接下来持续扩大。

这个机会大厂显然不会错过。百度作为国内大厂中第一个做出对标ChatGPT产品的企业，也在将AI原生应用作为当下重点。在年百度世界大会上，李彦宏谈道：“没有构建于基础模型之上的丰富的AI原生应用，大模型就一文不值。”

百度集团执行副总裁、百度智能云事业群总裁沈抖称：“我们每个月都在支持上万家客户的应用开发，百度智能云看到了五大需求。”

1.一切围绕落地

硅谷创业导师的EladGil发博客称，生成式AI的机会会经历四个阶段：①GenAI原生企业→②早期AI初创企业、部分大企业→③目前正在成立的下一波初创企业→④大企业运用潮，如今正处于第二个阶段向第三阶段发展的过程中。

生成式AI公司Writer在今年4月进行的一项对美国公司的调查数据显示，近60%的公司在年已经购买或计划购买至少一种生成式AI工具。

中国的大模型发展速度虽然不及美国，但随着基础大模型的逐步开放，应用层的机会显然是接下来的重头戏。

沈抖称，在大模型落地时代，百度智能云看到五重需求端机会：

第一类，对高效的算力的需求，很多企业用户和开发者都希望降低大模型训练和推理的成本；

第二类，希望直接调用API，快速便捷的做开发和落地；

第三类，需要大模型二次开发的工具链，来进行针对性的再训练、微调、评估和部署；

第四类，对大模型开发服务的需求，希望更便捷的开发AI原生应用；

第五类，对AI应用的需求。

这些需求，来自于与百度智能云千帆大模型平台上超过家客户的交流和沟通。据透露，千帆大模型API的调用量还在持续高速攀升，更多企业和开发者在不断地加入。

大模型技术来到了真刀真枪跑落地的阶段。

在今年3月发布文心一言之时，李彦宏就宣称，看好这波浪潮中AI应用的机会。他说：“真正的机会并不是从头开始做ChatGPT和文心一言这样的基础大模型，而是基于通用大语言模型抢先开发重要的应用服务。未来，将会有更多的杀手级应用、现象级产品出现。”

半年后，在百度世界大会上，百度公布了在AI原生应用的全新布局：一头是一系列百度自研的AI原生应用，一头是围绕AI原生应用开发全新升级了“云智一体”战略，面向五类需求打造能提供全栈服务方案的“大模型超级工厂”。

应用侧，百度发布了文心大模型4.0，以及被文心大模型改造的百度搜索、如流“超级助理”、百度文库、百度网盘智能助理“云一朵”产品，和AI原生打造的百度GBI（生成式商业智能）。

图片来自百度

服务方案侧，百度智能云“大模型超级工厂”针对性的提供了算力、API、工具链、能力组件、AI原生应用开发工作台五类服务方案。

算力层，千帆平台的万卡规模集群训练的加速比达到95%，万卡集群有效训练时间占比超过96%，大幅降低算力与时间成本，且还兼容昆仑芯、昇腾、海光DCU、英伟达、英特尔等国内外主流AI芯片，支持客户以最小的切换成本完成算力适配。沈抖透露，面壁智能的“知海图AI”大模型和多模态大模型Luca，就是基于百度智能云提供的AI算力集群打造，其在千卡集群上的有效训练时间占比高达99%。

模型层面，目前百度千帆平台纳管了42个国内外主流大模型，企业客户可以快速调取包括文心大模型在内的各种大模型的API，获取大模型能力。

对于希望基于现有大模型进行二次开发的客户，千帆平台可以提供大模型再训练、微调、评估和部署等环节的全生命周期工具链，以及业界最多的41个高质量行业数据集，帮助开发者和企业针对自身业务场景快速优化。百度称，中国邮政储蓄银行、度小满、金山办公、河北高速集团等诸多行业头部客户都在通过千帆平台提供的工具链服务进行专属大模型开发。

针对想基于大模型服务开发AI原生应用的需求，百度智能云推出了“千帆AI原生应用开发工作台”，提供了一系列能力组件与框架，让企业和开发者可以快速开发AI原生应用。

此外，百度智能云上线了类似安卓、IOS的国内首个AI原生应用商店，让用户可以直接使用成熟的AI原生应用产品的，这是百度智能云推出的首个大模型全链路生态支持体系中的重要内容。

2.AI原生应用浪潮中的平台机会

随着算法及模型的快速进步，技术的闸口打开之后，如何借助生成式AI技术打造这个时代的杀手锏应用是很多企业和创业者当下的课题。IDC报告预计，到年，人工智能市场将达到亿美元，增长的很大一部分将由生成式人AI初创公司推动，来自营销、设计、客户支持、金融科技、媒体制作和互动娱乐等应用层的机会巨大。

这波机会中，平台层的机会除了云计算等基础设施之外，更新的增量空间在于为AI应用开发做支撑，提供可以支撑全生命周期的工具链和组件服务。

由于大模型是一项新的技术，基础模型公司百花齐放，在工程设计、接口方案等方面尚未形成一个标准化的共识，开发者也没有太多的经验可以借鉴。要开发一个AI原生应用产品会面临复杂的工具选择过程。市场需要围绕开发而生的一体化平台和成熟的工具链服务。

国内外的科技大厂是担任这个角色的关键力量，他们作为有钱、有人、有经验的一方，有更大的资本为开发者构建产品运营的“高速公路”。

百度正在优先布局这层机会。此次，在百度世界大会上，百度智能云推出的“千帆AI原生应用开发工作台”，这是一个沉淀了百度开发大模型应用的常见模式、工具、流程的平台。

百度集团执行副总裁、百度智能云事业群总裁沈抖发布“千帆AI原生应用开发工作台”，图片来自百度

千帆AI原生应用开发工作台主要由应用组件、应用框架两层服务构成。

应用组件服务是将底层服务能力进行了组件化封装，由AI和基础云两大类组件构成。其中，“AI组件”中既包含诸如问答、思维链（CoT，ChAInofThought）等大语言模型组件，还包括文生图、语音识别等多模态组件；另一类是基础云组件，包含向量数据库、对象存储等。

应用框架则是将这些组件有选择地串联、组合的一整套经验，可以让开发者快速搭建一个特定场景的任务。目前，千帆平台中的检索增强生成（RAG）、智能体（Agent）、生成式商业智能（GBI）就是典型的AI原生应用框架。此外，每个框架下，百度智能云还提供了丰富的样板间，支撑开发者敏捷、高效地进行AI原生应用开发。

“这些组件能力都是百度在过去10年逐步沉淀下来的。”沈抖说。

现场，百度实时演示了用检索增强生成（RAG）能力，结合三一重工提供的一款挖掘机操作保养手册，用几分钟时间，就在三一重工