百度地下12个月打造AI原生运行思绪！李彦宏再谈开源大模型！百度智能计算OS万源亮相 百度外部移动生态大变天！

出品 | 技术栈（微信号：blog51cto）

2024，大家不再卷参数卷测评了，开局卷运行了。但，谁又知道AI原生运行什么样？怎样做？这个学费不好交。

令人兴奋地是，AI大佬李彦宏当天终于言传身教。

4月16日，李彦宏轻装上阵，在百度AI开发者大会一股脑将百渡过去一年通常进去的、开发AI原生运行的详细思绪和工具全都放进去了。

Robin一口吻接连放出了百度三大AI原生运行的开发利器：ModelBuilder、AgentBuilder、AppBuilder，可以说这三个Builder完美弥合了从大模型到运行降生的鸿沟。一期间现场掌声始终。

“我置信文心大模型将成为中国AI守业者和开发者的首选！”作为国际首发且大模型综合才干极为靠前的文心一言，在运行层面也是规划最早最片面的，李彦宏自信满满：越来越多的运行会树立在文心大模型之上，也等候更多的守业者和开发者添加咱们一同去发明未来。

1.百度第一剑，先斩开源大模型

李彦宏收场致辞，首先亮出了文心一言的效果单。

据引见，文心一言于去年3月16日正式颁布，截至目前用户数曾经打破2亿，每天API的调用量打破2亿，服务客户数到达8.5万，应用千帆平台开发的AI原生运行数超越19万。

回忆过往一年，文心4.0的颁布是一道分水岭。

李彦宏示意，文心4.0之后，百度可以依据须要，剪裁出适宜各种场景的更小尺寸模型，并且允许精和谐post-pretrain。

post-pretrain是一种模型预训练战略，是指基础模型预训练后，继续经常使用无标志数据对模型启动预训练，旨在优化模型通用言语表白才干。

在等同尺寸下，经过post-pretrain的模型，会比间接开源的模型效果更好；在等同效果下，其老本会会更低。

在这一参照下，李彦宏给定论断：“开源模型会越来越落后”。

2.大小模型混用才是霸道，开发运行会像拍短视频一样方便

关于大模型自身，李彦宏曾放言：大模型曾经够多了，没有必要卷大模型，应该卷运行。

如今，他也依然保持自己的判别：大模型自身并不能间接发明价值，基于其开发的AI原生运行才是市场需求所在。

在此前提下，李彦宏重点提到了三个行业关键词。

其一，MoE。此处的MoE并非狭义上的机器学习畛域的概念“混合专家模型”，指的是更狭义上的大小模型的混用。通常来说，只要5%-10%的情形须要大模型，其他30%-40%的状况须要中小模型。

李彦宏预判，未来大型的AI原生运行基本都是MoE的。针对不同的运行场景，不依赖一个模型来处置一切疑问，判别如何调用大小模型，就构成了MoE混用形式。

其二，小模型。小模型推理老本低，照应速度快，在一些特定场景中，经过精调后的小模型，其经常使用效果甚至可以媲美大模型。经过大模型紧缩蒸馏出一个基础模型，而后再用数据去训练。这比从头开局训小模型，效果要好很多，也比基于开源模型训进去的模型，效果、速度和老本体现都更好。

目前，百度曾经颁布了ERNIE Speed，ERNIE Lite、ERNIE Tiny三个轻量级大模型，并将其内置于Model-Builder中，以便为开发者提供更高效灵敏的大模型运行方案，以此顺应不同场景的需求。

其三，智能体。智能体指的是能够感知环境、启动决策和执执行作的智能实体。在大模型驱动下，以人造言语为交互，可以自主成功复杂义务，在环境中继续学习、成功自我迭代和自我退化。它们可以更大水高山监禁人员精神，让人更专一于发明性和决策性的事务。

李彦宏称，大模型和生成式AI将彻底扭转开发者集体，“过去开发者用代码扭转环球，未来人造言语将成为通用编程言语。”

基于文心大模型的智能代码助手Comate，可以介绍代码、生成代码注释、查找代码毛病、给出优化方案，还可以解读代码库、关联私域常识生成新的代码。

官网信息显示，百度每天新增的代码中，曾经有27%是由Comate智能生成的；Comate还与喜马拉雅、三菱电梯等上万家企业协作，生成的代码采用率到达46%。

“当天，你不会写代码，也可以做出一个运行；不用编程，也可以做出一个智能体“，李彦宏示意，未来开发运行就会像拍短视频一样方便，人人都是开发者。

3.百度曾经不满足只做基座，而是要打造一个智能体平台

“人人可开发、人人运营、人人可获益”，其实百度早在去年秋天就在外部投入精神去打造智能体构建平台AgentBuilder，主打高效方便。

提及智能体（Agent），市面上有许多探讨，李彦宏这次间接点名了Agent，并以为Agent或许是未来离每团体最近、最干流的大模型经常使用方式，基于弱小的基础模型，智能体可以批量生成，运行在各种各样的场景。

作为基于文心大模型的智能体构建平台，AgentBuilder为开发者提供了零代码和低代码两种形式。无论是专业人员还是编码小白，都能极速上手。

此外，AgentBuilder不止是开发平台，开发者还可以经过百度生态矩阵散发门路，做到“开发+散发+运营+变现”一体化赋能。

开发者的智能体可以经过百度搜查、小度、文心一言、百度地图、车机等多场景、多设施成功散发，未来还将接入商业插件配置，进一步成功商业闭环。

截至目前，曾经有3万多个智能体被创立、5万多名开发者和上万家企业入驻。

“打造国际最完整的智能体生态”，百度合理其时！

除了AgentBuilder，李彦宏还引见了另外两大开发利器AppBuilder和ModelBuilder。它们雷同允许开发者开箱即用。

早在去年三月，百度推出“千帆大模型平台”时就囊括了AppBuilder和ModelBuilder两局部。

如今，AppBuilder工具组件扩增至55个，并上线了“三步生成运行”配置。

作为产业级AI原生运行开发平台，AppBuilder封装和预置了开发AI原生运行所需的各种组件和框架，最快只要三步，开发者就可以用人造言语开收回一个AI原生运行。

目前少量的开发者已经过AppBuilder生成丰盛的AI原生运行，包含智能导购客服、心思咨询助手、营销素材生成、智能数据剖析等等。

而实用于模型定制的ModelBuilder则是更适宜专业开发者经常使用的工具。

ModelBuilder提供了包含文心大模型系列在内的77款精选大模型，内置业内最多的47个数据集和119个产业级Prompt模板。还设置了模型精调样板间，开发者只要要跟着样板间一步一步精调，就能做出如出一辙的专业模型。

4.多模型智能计算OS万源亮相，云原生系统风险了

本次百度AI开发者大会上，还有一个重磅炸弹。

百度团体执行副总裁、百度智能云事业群总裁沈抖冷不防就来了一个大招：智能计算操作系统万源，而且同时允许包含文心一言、第三方大模型在内的77个大模型。

在AI原生时代，算力是至关关键的新质消费劲。然而，在运营和治理环节中，智算核心也面临重重应战：异构算力资源纳管艰巨、算力调度才干无余、应用率高等等。

沈抖提到，基于国际芯片供应的不确定性，在启动繁多义务训练时往往会面临多芯局面。为了更好地调度算力资源、缩小性能损耗，百度推出了“万源”。

这是一个弱小的操作系统，可以把现有的算力资源施展到极致来撑持大模型，以有效应答目前国际GPU等算力不确定性的疑问。

据沈抖引见，万源是百度全新颁布的一个繁多义务一云多芯大模型训练处置方案，处置了当下百卡甚至千卡混合训练场景下性能损耗太大的疑问，同时昆仑芯、昇腾、Intel、NVIDA等多种型号的干流芯片，让他们高效绑定在一同就像一块芯片一样上班！

万源OS在框架层面，一手以文心大模型、百舸AI异构计算平台为内核（万卡集群有效训练时长占比高达98.8%，线性减速比95%），一手以ModelBuilder、AgentBuilder、AppBuilder为Shell/Toolkit，让这些极繁难用的设计取代云原生系统的复杂性，从而推进减速AI原生运行的迸发。

不得不说，方便是终极的复杂！万源系统做到了！

5.百度移动大变天，该改名叫AI原生运行部门了

一个时代有一个时代的印记。在AI原生运行时代，百度移动曾经改头换面，百度搜查、百度文库、百度地图在当天的大会上也给出了全新的智能化停顿。

百度移动生态部门在往年也化身百度智能体浪潮的先锋官，勇立潮头为业界做了一次性最佳示范。

比如全场景语音指令可随时随地高效创作的新文库（据悉，曾经有累计1亿+AI用户数，配置经常使用次数达8亿+），再比如文心一言App更新成了万能搭子（为宝妈宝爸哄娃讲睡前故事，练习英语等，目前曾经有30万创作者，40万的智能体，8亿调用量）。

上方是一些精彩画面：

对了，据悉百度营销这块还推出了商家智能体，可以商家全天候地取得线索并服务用户，取得线索的老本直降29%。详细都有哪些行业呢？目前看最受欢迎是教育培训、房产家居、机械设施、商务服务等30多家行业。

同时，百度团体资深副总裁何俊杰还重点介绍了一个电商直播智能体：慧播星，领有了它简直就像领有了一支格调各异、舌灿莲花的主播天团。智能问答、智能脚本、智能场控，堪称一站式全天候在线。据悉，目前曾经陆续上线了不少明星版本，包贝尔的智能体还取得了带货榜第一名。

此外，大家熟知的对话机器人也迎来了重磅更新，DUER OS X颁布！据悉它搭载了1.1万个语音智能运行，更细化定制生态层的重构。

AI原生也成为了小度脱离存量竞争的秘钥，如今的小度变得愈加痴呆、愈加freestyle的交互、甚至更被动动员后续的追问、而且声响更拟人、表情也愈加丰盛。

6.卷运行，但面前仍是大模型退化技术的竞赛

一年期间，文心大模型获取了极速的退化，从文心一言3.0到如今的集万卡算力、飞桨平台、多维数据、多阶段对齐、可再生训练等多位一体的文心大模型4.0（半年期间又优化了52.5%），再到工具版4.0的推出，这面前都是百度团队交出的高昂学费、踩过有数个坑得进去的不易效果。

此外，百度首席技术官王海峰还引见了百度团队高效低老本的模型消费神得：大小模型协同训练（常识承袭、对比增强技术），高效预训练、精调对齐、模型紧缩、推理部署、数据提质与增强方面都有着很多阅历积淀。

在多模型推理方面，百度团队还研制了基于反应学习的端到端多模型推理技术。

星辰已现，弱小、矫捷、放开，正是面前百度文心模型的继续翻新，才培育了如今百度兴盛AI生态的松软底座！

这次百度的开发者大会为咱们描述了一个“人人都是发明者”的未来。

在AI原生时代，AI已不再仅仅是少数专家的专属领地，而是逐渐浸透到千行百业中的普适性工具。

无论集体的专业背景、职业角色或技术熟练度如何，随着用户友好的AI开发平台、零代码编程工具等资源的日益丰盛和完善，开发门槛清楚降落，使得非专业人士也能轻松应用AI技术成功创意落地。

突飞猛进的技术似乎松软的地基，撑持起一座座翻新的灯塔，激励有数起初者超越技术边界，打破传统桎梏，独特点亮人类社会的未来星空。

想了解更多AIGC的内容，请访问：

AI.x社区