百度的大模型插件，打工人的救星？

文 | 周鑫雨

编辑 | 邓咏仪

图片来源：由无界 AI生成

2023年8月16日的百度2023WAVE SUMMIT，构建大模型开发生态的方法论，代替模型本身成了主角。

总体而言，如今百度基于文心大模型的应用落地尝试，是把微软的路子再走了一遍：针对生产力场景发布配套插件和Copilot，同时建设基于云的开发者生态。

比如新发布的5款插件，对应的是Bing和ChatGPT接入的近70款插件；推出的插件开发工具集和AI应用开发套件Comate Stack，对应的是Copilot Stack；上线超级助理等插件的百度智能办公平台“如流”，对应的是接入Copilot的Teams。

旺盛的市场需求和处于高速迭代期的大模型技术，两者构成了大模型落地应用的主要矛盾——客户们急于用大模型提高生产效率，但尚在发展阶段的模型技术迭代速度快，大模型应用落地，首先要面对高昂的迭代成本。

不少厂商找到的解决方案是：插件化。

相较于传统的应用开发流程，插件无需开发一整套完整系统，通过接口就能提供服务，且易于修改和更新。在某种意义上，插件是AI应用创新的最佳载体。

基于这一思路，百度在2023WAVE SUMMIT上，围绕着“插件”，做了从自研，到开发者社区建设，再到落地工作场景的一系列尝试。

生态建设，是百度强调的另一个重点。

随着大模型发展的进度条从研发快速拉到落地阶段，开发者面对的是愈发复杂的产业链条，落地应用也对上下游、软硬件的协同提出了较高的要求。

作为基础设施提供者，百度对飞桨开源框架在大模型训练、推理、硬件适配等方面进行了迭代升级，将文心大模型3.5的训练速度提升至3倍，推理速度提升了30多倍。其目的在于聚集产业链各环节的开发者，基于大模型基座和云平台进行开发生态的建设。

百度集团副总裁、深度学习技术及应用国家工程研究中心副主任吴甜认为，“经历半年的时间，我觉得整个行业的角色分工会逐渐明朗。”

“文心一言”叠加制图Buff，接入5个百度自研插件

除了在8月2日的文心千帆大模型平台媒体圆桌会议上发布的“百度搜索”和“览卷文档”（原ChatFile），此次百度还在文心一言上推出了“E言易图”“说图解画”“一镜流影”三款AIGC插件，分别应用于图表生成、图片生成理解、视频生成场景。

文心一言使用“览卷文档”插件解读文档。图源：百度

文心一言使用“E言易图”插件将文档中的数据生成饼状图。图源：百度

不过，由于能耗较高，视频生成插件“一镜流影”的内测尚未全面进行。未来，文心一言将开放给更多第三方插件。

飞桨“卖水”，推出大模型插件开发平台

以5个自研插件作为开端，百度更想做的，是建立起链接上下游的完整开发者生态。

吴甜认为，目前已经到了建设开发者生态的时机：“一方面，我觉得核心技术系统本身的成熟度要足够，才能去支撑生态的建设，文心一言已经到了这个阶段；另一方面，生态最大的作用是让应用更加繁荣。”

依托于“文心一言”的模型能力，百度面向开发者上线了大模型插件开发平台。平台提供了插件开发工具集（ERINE Bot SDK），可以支持信息服务类、工具类、基于LLM的创新类的插件的研发。

ERINE Bot SDK。图源：百度

与此同时，飞桨AI Studio此次推出了星河大模型社区。这就好比国产版的微软Azure AI Studio，百度作为大模型应用的“卖水人”，为开发者提供开发、部署、市场推广等流程服务。

星河大模型社区。图源：百度

在“如流”上，做提高生产力的文章

什么是AI时代的“杀手级”应用？目前业界或许没有定论。但发展AI原生（AI Native）应用是“杀手级”应用的基础，愈发成为共识。

所谓的AI原生应用，简单理解就是离开AI，就无法提供核心能力的应用——这对开发者无疑提出了更高的要求：对原有应用进行简单迭代是不够的。

在2023WAVE SUMMIT，百度交出的原生AI答卷，点的是重塑生产力的题。在百度智能工作平台“如流”上，百度推出了“超级助理”和“Comate X智能编程助手”。

“超级助理”的功能类似于此前阿里发布的钉钉魔法棒和飞书发布的AI助手“My AI”，可以基于用自然语言输入的需求，完成文档处理、聊天内容查找、信息发送等任务。

“超级助理”完成差旅安排。图源：百度

“超级助理”可对文档进行分析。图源：百度

同理，辅助编程的Comate X也是基于自然语言描述，生成能实现相应功能的代码片段。目前，Comate X支持30多种语言和10多种IDE（集成开发环境）。

针对AI原生应用的开发，百度也建立了开发者生态。此次推出的AI原生应用开发套件Comate Stack，为开发者提供了评测平台iEValue、AI应用开发平台IPlayground和数据集托管平台iDateSet。

值得一提的是，在Comate Stack上进行AI应用开发，自然语言依然是人机交互的界面。比如开发可以执行休假政策的插件，只需要设置Prompt、编排流程两步。

AI应用开发平台IPlayground支持2步生成AI插件。图源：百度

AI应用上线如流，意味着目前两款生产力工具只有百度员工和几家大B客户能够使用。但与此同时，这也是如流积极商业化的信号。

百度集团副总裁、百度集团首席信息官李莹介绍，以超级助理和编程工具链为切口，接下来如流也会加大商业推广力度。