看了百度世界2023，千帆大模型平台绝对利好开发者！

亦凉 2024-02-21 10:11 31阅读 0赞

#### 云智一体，赢在大模型时代 ####

*  ✨前言
 *  ✨“云智一体”战略升级，为大模型落地五类需求提供最优解
 *  ✨发布“千帆AI原生应用开发工作台”，加速企业AI原生应用落地
 *  ✨检索增强生成RAG框架的强大之处
 *  ✨流行的应用框架-智能体Agent
 *  ✨沈抖对百度未来的展望

## ✨前言 ##

10月17日，百度世界2023在北京首钢园召开。百度智能云在大会期间宣布：全面升级“云智一体”战略，面向客户落地大模型的五类需求提供全栈服务方案；面向AI原生应用开发，重磅发布“千帆AI原生应用开发工作台”，加速企业AI原生应用落地；发布国内首个AI原生应用商店，以及国内首个大模型全链路生态支持体系，赋能伙伴商业增长，共建、共享繁荣的大模型产业生态。

![在这里插入图片描述][062c67eaf8d94338948d6a8774174f15.jpeg_pic_center]

## ✨“云智一体”战略升级，为大模型落地五类需求提供最优解 ##

自2020年起，百度智能云在业界率先提出“云智一体”战略，并在技术架构与服务等方面进行了多次迭代升级。本届百度世界大会，`“云智一体”的战略内涵全面升级为“云智一体，深入产业，生态繁荣，AI普惠”`。  
百度集团执行副总裁、百度智能云事业群总裁沈抖表示，人工智能与云计算的深度结合是企业快速落地AI原生应用的关键，这也是百度智能云始终倡导和践行的“云智一体”理念。目前，百度集团所有应用和服务全部基于”云智一体“技术架构运行在百度智能云上。`此外，面向客户落地大模型的五类需求，百度智能云基于千帆大模型平台打造的“大模型超级工厂”分别给出了最佳服务方案。`

![在这里插入图片描述][e022bfc4c4e947b38061c10574f3a9fa.jpeg_pic_center]

## ✨发布“千帆AI原生应用开发工作台”，加速企业AI原生应用落地 ##

为了满足企业敏捷、高效地进行AI原生应用开发与运维的需求，降低AI原生应用开发门槛，百度智能云重磅发布“千帆AI原生应用开发工作台”，将开发大模型应用的常见模式、工具、流程，沉淀成一个工作台，帮助开发者聚焦在自身业务，而无需为开发过程牵扯多余精力。具体来讲，`千帆AI原生应用开发工作台`主要由应用组件和应用框架两层服务构成。

应用组件服务由AI和基础云两大类组件构成，是对底层服务能力的组件化封装，让每个组件完成一段特定的功能性任务。“AI组件”中既包含诸如问答、思维链（CoT，Chain of Thought）等大语言模型组件，还包括文生图、语音识别等多模态组件。例如，用户可以使用问答组件完成问答场景中常用的总结摘要任务。而“基础云组件”则包含向量数据库、对象存储等传统云服务能力。

应用框架则是通过将上述这些组件有选择地串联、组合起来，让它们能够比较完整地完成一个特定场景的任务。目前，千帆平台上提供的`检索增强生成（RAG）、智能体（Agent）、生成式商业智能（GBI）`就是典型的AI原生应用框架。在每个框架下，百度智能云还提供丰富的样板间，支撑开发者敏捷、高效地进行AI原生应用开发。

![在这里插入图片描述][cb5278e1d42341d0b4a1c974f30f6179.jpeg_pic_center]

## ✨检索增强生成RAG框架的强大之处 ##

`检索增强生成（RAG，Retrieval Augmented Generation）框架，`可以更高效的利用企业专有领域内的知识，并在大模型的帮助下根据相关问题做出精确回答，是专业知识问答类AI原生应用的必备核心能力。

![在这里插入图片描述][d920cf6ecd4749e4ad97987512961989.jpeg_pic_center]

大会现场，百度智能云技术委员会联席主席、百度智能云应用产品中心总架构师孙珂，还进行了如何基于RAG框架，为三一重工快速开发知识问答应用的实操演示：只需在千帆AI原生应用工作台中选择预制的RAG框架，进行相应的参数配置等工作，就可以快速实现三一重工官网智能客服应用的开发与上线。

在这段演讲中，详细的讲解了如何使用RAG框架为三一重工快速开发知识问答应用的实操演示，我们需要导入的三一重工提供的挖掘机SY305H的操作保养文档有48页，2w多字，里面有非常多的参数和细节，如果让一个员工去掌握这些内容并回答用户提出的问题，还是很有难度的，而交给RAG框架就会很容易，我们只需要创建一个知识库并导入文档数据，使用RAG原理，分割文档成小片段并构建向量数据库，配置应用管理知识库，生成代码并集成到三一重工官网，就会生成在线智能客服。

当我们去问在线智能客服关于SY305H应该用什么样的冷却液时，它却能在长达2w字的文档里快速检索并且回复的内容简洁，具有逻辑性。显然，当我们问其他问题时，智能客服也能准确回复。但我们可能会有疑虑，像这样强大的千帆AI原生应用工作台开销成本会很高吧，但沈抖却表示，搭建这样一个智能客服，即使需要处理几千篇万字长文档，成本也只需要几百块钱；而之后客户每一次咨询，成本仅需几分钱！！！

## ✨流行的应用框架-智能体Agent ##

`智能体（Agent）`作为当前业界流行的应用框架，可以对人类给定的任务进行自动拆解，自动规划并调用各种组件协同完成任务，同时根据任务完成效果得到反馈，改进自身能力。目前，Agent框架已经在工业、交通等领域得到了广泛应用。

中天钢铁基于千帆AI原生应用开发工作台提供的Agent框架打造了智能化的“企业调度中枢”，实现了任务指令的自动感知、分解与执行。比如，在发现钢铁产量不达标时，用户只需提问一次，大模型就可以自动调用平台纳管的各种资源和API，完成BI取数、第三方根因分析等工作，找到未达标原因并及时调整排产计划并发送邮件通知调度人员。  
![在这里插入图片描述][01221aa89b9e494986a09b3a30cec055.jpeg_pic_center]

## ✨沈抖对百度未来的展望 ##

沈抖在演讲中表示，“大模型时代风起云涌，有人争着弄潮，有人忙于逐浪，而我们致力于造一艘坚实的大船，用更高效的算力基础设施、更好用的一站式大模型平台、更丰富的行业解决方案和百花齐放的AI原生应用，与各位客户、伙伴一起在大模型商业化的征途中乘风破浪、赢未来！”

![在这里插入图片描述][45fd0e436a78469f90b893de6564279d.jpeg_pic_center]

[062c67eaf8d94338948d6a8774174f15.jpeg_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/21/5185da27ee634f1ca28ccdc15cc76e60.png
[e022bfc4c4e947b38061c10574f3a9fa.jpeg_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/21/0d1ed3e4376147cf962145c7b1ee92ae.png
[cb5278e1d42341d0b4a1c974f30f6179.jpeg_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/21/cb7d6433bc64459cb8302a3413fac360.png
[d920cf6ecd4749e4ad97987512961989.jpeg_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/21/a8d13f83aca04af5826b6794f6e87384.png
[01221aa89b9e494986a09b3a30cec055.jpeg_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/21/b781490eb530401db55032cae95540ce.png
[45fd0e436a78469f90b893de6564279d.jpeg_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/21/d8408941aaa04545b97bf7dec5df0015.png