欢迎访问黑料吃瓜网

10年专注吃瓜

吃瓜质量有保 售后7×24小时服务

24小时咨询热线:4006666666
联系我们
tel24小时咨询热线: 4006666666

手机:13999999999

电话:010-8888999

邮箱:[email protected]

地址:经济开发区高新产业园

您的位置:首页>>今日吃瓜>>正文

今日吃瓜

百度智能云再晋级,打造AI送行最敞开的智能基础设施

发布时间:2025-05-01 点此:803次

4月25日,以“模型的国际,运用的全国”为主题的Create 2025百度AI开发者大会在湖北武汉举办。会上,百度集团履行副总裁、百度智能云作业群总裁沈抖共享了百度智能云在智能基础设施建造方面的最新作用,并在算力、模型及运用等方面发布一系列全新产品。
大模型的高效落地亟需从底层算力到运用的全栈、体系级支撑——既需高功能硬件与集群优化,也需灵敏的开发东西链与场景化处理计划。依据多年在大模型研制与工业落地的深沉堆集,百度智能云构建了新一代体系级智能基础设施,为企业大模型运用落地供给最佳处理计划。
相关数据显现,2024全年百度智能云在大模型相关中标项目数、职业掩盖数、央国企中标项目数三个维度均为榜首,在动力、政务、金融三个职业的中标项目数坐落一切厂商榜首。到现在,千帆渠道企业用户数量超40万,千帆渠道组件数量超1000个,企业在千帆渠道上已开发出了超100万个运用。
沈抖表明,体系的价值,不只是处理某一个问题,而是让企业具有发明“发明的才能”。企业能够结合自己的数据、流程、逻辑,运用百度智能云的体系级才能打造企业专属AI基础设施。
百舸+昆仑芯超节点:推理功能提高13倍、本钱下降95%
算力是AI送行的“新电力”。百度智能云经过自研昆仑芯P800芯片及百舸大规模推理加快才能,反抗算力功能与本钱的两层打破。
本次大会,百度正式点亮了昆仑芯P800的三万卡集群。在金融职业,招商银行与百度智能云依据昆仑芯P800打开算力协作,能安稳支撑各类开源大模型,功能体现杰出,在智能客服、多模态数据剖析等场景反抗了明显效能提高。现在,除了招商银行这类金融机构,昆仑芯P800算力已在国家电网、我国钢研等央企,同济大学、北京大学等高校及一批互联网企业进行规模化布置。
为了进一步下降算力运用本钱,百度智能云正式发布昆仑芯超节点。
昆仑芯超节点支撑把64张昆仑芯AI加快卡放到同一个机柜,反抗单节点的超强功能,一个机柜就能顶过去100台机器。与以往的计划比较,昆仑芯超节点用更快的机内通讯代替机间通讯,能够有用下降带宽本钱,终究反抗卡间互联带宽提高8倍,单机练习功能提高10倍,单卡推理功能提高13倍。
只是具有高功能芯片和大规模集群是远远不够的,表达安稳、高效地开释算力的真实价值才是要害所在。沈抖以为,未来三年,推理降本,一定是企业最重要的作业。
百度智能云全面晋级百舸推理加快才能。经过大规模分布式推理的PD别离,百舸支撑客户依据不同场景的事务特色,自适应地设置PD配比,并做到token等级的PD负载均衡。针对MOE模型,百舸做到了大规模多机专家并行的极致优化,能够大幅下降MOE模型推理的通讯开支。最终,百舸对中心链路上的每一个细节做了体系级的工程优化,大幅提高GPU的有用运用率。
从百度内部实践来看,百舸推理加快的才能正在作为千帆的算力底座,为40万客户供给服务。上线以来,千帆的推理吞吐量提高20倍,推理速度提高50%以上。在外部,百舸不只支撑着像招商银行、我国石化、长安轿车等企业的超大规模算力需求,也很好地支撑着创企客户、同伴的模型练习、推理需求。
以北京人形机器人立异中心为例,百度百舸为立异中心构建了安稳的超大算力集群,保证具身模型的练习和推理得以高效进行,支撑了人形机器人的快速迭代。在散步全球首个人形机器人半程马拉松中,北京人形机器人立异中心旗下纯电驱全尺度人形机器人“天工”,以2小时40分42秒的成果首先冲线一举夺冠。
为企业运用开发提效!千帆发布智能体Pro及MCP服务
企业布置大模型,不只需求高性价比的模型服务,更需求全面的模型东西。在模型服务层面,现在千帆渠道上有超越100个模型,不只抒发文心4.5Turbo、文心X1 Turbo等百度自研模型,还抒发DeepSeek、Ilama、Vidu等第三方模型,服务安稳、牢靠。在模型开发层面,千帆渠道能够供给全面的模型开发东西链,支撑深度考虑模型、多模态模型的定制、精调。
以模型蒸馏为例,智联招聘在人岗匹配场景运用了千帆渠道的模型蒸馏东西链,用千亿参数的DeepSeek R1作为“教师模型”,用百亿参数的ERNIE Speed作为“学生模型”,经过调优后的小参数模型,不只能够比美“教师模型”的作用,本钱也下降至3成。
在运用开发上,本次大会千帆渠道全面晋级了企业级Agent开发东西链,发布了全新推理式智能体——智能体Pro,从快问快答晋级到深思熟虑,并且支撑每个企业定制自己的专属智能体。以污水宝为例,依据千帆Agentic RAG才能,让Agent结合企业自己的私域数据和企业常识库,能够依据对使命的了解去拟定检索战略,大幅下降模型错觉。一起,智能体Pro也支撑Deep Research深度研讨形式,能让Agent自主反抗侦查使命的过程规划、信息挑选和收拾,支撑像人相同控制电脑阅览网页(computer use)进行探究式常识搜集,也支撑像人相同运用多种东西制作图标、编撰,生成结构明晰、内容丰富的专业陈述。
依据DeepResearch才能,荣耀正在运用千帆渠道,面向高校学生、职场白领等集体,打造一款科研场景深度研讨的运用,将很快会在荣耀笔记本上上线。
MCP的呈现,协助开发者和企业在开发Agent时,能够更好地运用职业数据和东西。本次大会,百度智能云正式发布国内首个企业级MCP服务,榜首批现已有超越1000个MCP Servers 供企业及开发者灵敏挑选。别的,开发者也能够在千帆上开发自己的MCP Server,并发布到MCP广场,支撑免费保管,并且百度查找也会索引这些MCP Server,让它们被更多的开发者引证。
从模型服务到运用开发,企业客户现已在千帆渠道上做出了许多职业立异。民生银行与百度智能云协作,探究大模型在商业银行的落地,反抗了金融范畴榜首个端到端包括算力、渠道、模型、运用四层架构的项目落地。
自研AI运用重磅晋级:反抗营销全旅程服务,视觉AI运用本钱大幅下降
百度智能云打造的智能基础设施也支撑着百度自己的运用立异。本次大会,百度智能云面向智能营销、视觉AI两大范畴,晋级了两大自研AI运用产品。
金融营销场景需求高精准获客、“高情商”客服及高效的丢失预警,百度智能云本次晋级发布客悦·ONE,在上述中心场景进行了全面优化,为客户供给全生命周期智能营销服务,助力企业反抗营销效能全面提高。
以理财撤单场景为例,传统形式下,用户需阅历侦查的阐明阅览和多层级菜单操作,功率低下。客悦经过AI驱动的智能交互技能,极大地简化了这一流程。AI不只能主动提炼要害信息并回流数据,继续优化服务体会,还能辨认并安慰用户焦虑,更能在对话中直接引导用户处理问题。
现在客悦现已服务银行、证券、稳妥等不同细分范畴的金融企业50余家,落地金融职业10余个场景。
为了处理视觉AI模型练习周期长、门槛高,需求很多人工干预的问题。百度智能云晋级发布一见5.0,在标准化高、规矩明晰的使命中,仅需一句自然语言,即可秒级生成专业级视觉AI运用,一线事务人员也能轻松上手,凭借云边协同,运用本钱大幅下降,加快了视觉智能规模化的落地。
现在,百度智能云从算力、渠道到运用的体系级才能,现已在多个企业场景中安稳运转。我国钢研与百度智能云联合打造全栈智能基础设施,依据昆仑芯和百舸,搭建了专属的智算渠道;在千帆上做模型精调,运用大、小模型结合的方法取得最佳作用;结合一见视觉渠道,快速反抗了外表缺点检测、金相剖析等中心场景的运用开发。
上游新闻 杨昕华
告发/反应

相关推荐

在线客服
服务热线

24小时咨询热线:

4006666666

微信咨询
每日吃瓜网
返回顶部