技术解读为什么百度智能云是“最适合跑AI的云”？

云计算在与人工智能技术的融合发展中，也打破了企业开发的界限。3月27日，百度智能云2021云智技术论坛首次在北京举行，百度智能云重磅发布云智一体化AI开发全堆栈模式，基于独特的AI堆栈原生云架构，通过硬件和硬件一体化高性能AI开发基础设施为企业提供AI开发全堆栈解决方案作为国内AI公有云服务市场第一的百度智能云以云智一体化的独特优势继续领先市场。

百度智能云是百度AI技术落地的承载者和输出者，显示了云智一体化的独特竞争优势。智是百度大脑，作为智能云的核心基础，经过十几年的积累，百度大脑已经发展成为核心技术领先的硬件和软件一体化AI大生产平台，为各行业提供能力的AI新基础设施。为了满足产业智能应用的规模化生产，百度智能云在业界首次提出AI原生云计算结构，构建业界最适合AI的云，结合上层灵活易用、满足各种开发者应用需求的AI开发平台，帮助企业提高AI开发效率，加快智能化进程。

硬件、硬件、硬件、硬件、硬件、硬件、硬件、硬件、硬件、硬件、硬件、硬件、硬件、硬件、硬件、硬件、硬件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、软件、为了更好地适应已经到来的AI原生新阶段，百度智能云构建了全栈的AI原生云架构，对AI应用场景进行了深度的硬件和硬件一体化合作优化，构建了行业最适合AI的云，在AI基础设施水平上为企业提供了高性能的AI算力，更简单、易用、高效的开发过程

百度智能云主要通过AI计算、AI存储、AI容器三层构建AI开发基础设施。具体来说，

AI计算层:基于百度太行弹性裸金属产品，为客户提供高性能、多规格、高性价比的计算服务。以下分别介绍

-芯片水平，拥有百度自我研究的昆仑芯片和业界多规格的商业GPU和FPGA芯片，以满足不同场景的AI计算能力需求。

-单体服务器水平，基于X-MAN结构的AI超级服务器，X-MAN是第一台可与4路CPU组合的超级AI计算机，突破CPU与GPU的配比限制，更好地释放GPU的能力，使CPU的能力不再成为GPU计算力利用的限制，提高AI计算场景的整体计算能力。同时，单体内部多卡之间的通信基于NVLink的高速连接。

-百度AI超级服务器统一通过百度自主研发的硬件虚拟化技术百度太行弹性裸金属，以百度太行高性能计算实例的形态，可与其他云服务无缝连接，包括云存储、云数据库、云网络等

AI存储层:其核心是基于百度对象存储服务和相关AI场景的加速和处理能力，解决客户AI开发场景的数据存储和分析问题。因此，百度智能云特别提供面向AI计算的存储服务体系结构，分为

-第一层，数据云，帮助客户的数据如何快速有效地提供云，百度提供面向离线传输的磁盘传输方式线下传输支持单机百TB的数据转移能力，线上数据流转cloud、flow兼容行业7种对象存储接口。

-第二层是数据存储，百度以对象存储为中心提供经济高效的存储服务。百度对象存储提供行业第一批四级数据存储，并提开发者_运维知识库供智能化的生命周期管理和行业领先的读写性能，满足客户在大数据场景下的性价比需求。

-第三层是数据处理和AI加速层，在加速层面，百度提供Cache服务，基于更快的存储介质，提供元数据加速、缓存管理等能力，提供更高的性能存储能力，同时在对象存储方面默认集成AI智能处理能力。百度的高速缓存能力，在一些场景下训练速度可以提高4倍以上，同时融合了数十种智能处理能力。

另外，针对视频、图片等文件类型，百度智能云在BOS测试更好的封装集成了百度相关的AI能力，包括数十个图片的审核能力，以及图片的提升和特效能力，用户可以直接通过BOS事件触发框架，在数据访问或数据上传时，直接通过统一的界面扩展调用这些智能处理能力，使数据分析和存储更近，降低编码的复杂性，提高管理体验。

AI容器层:百度智能云容器发动机服务CCE提供基础Docker容器生命周期管理、大规模容器集群运输管理、业务应用一键发布运行等功能，对AI场景进行了一系列优化具体介绍AI容器服务的重要特性:

-支持GPU共享能力，支持用户1/2、1/4等粒度的GPU计算能力资源管理。

-在AI作业的调度水平上，支持Gang、Spread、Binpack等调度算法和NVLink等GPU网络结构的感知调度能力。

-在加速发动机层面，提供计算机和通信加速发动机，计算机加速可以在具体场景下提高数倍的推理效率，通信库可以支持千卡规模的通信加速能力。

AI原生云基础设施上层建设AI开发双平台的AI开发成为最佳解决方案

随着产业智能化的大潮，AI成为许多行业变革升级的通用技术，企业级AI开发平台的作用越来越突出。依托AI原生的云基础设施，基于百度自我研究的产业级开源深度学习平台飞桨，满足企业对场景的定制应用需求，百度推出飞桨企业版，包括面向AI应用开发者的零门槛AI开发平台EasyDL和面向AI算法开发者建设的全功能AI开发平台BML。

EasyDL和BML都可以满足开发者的数据获取、特征提取、参数优化、模型训练、模型评价、模型配置、推理服务等全过程需求，具有更丰富的任务场景、方便高效的智能数据服务EasyData、内置百度超大规模预训练模型带来的高精度效果

零门槛AI开发平台EasyDL

EasyDL面向AI应用开发者，支持图像、文本、视频、语音、OCR、结构化数据、零售行业版7大技术方向，16种任务类型，支持公有云、本地服务部署、设备端、软硬一体四种部署方案，已服务超过80万用户。从EasyData智能数据服务、模式培训到服务部署一站式全流程服务，让用户无需了解算法细节，5分钟即可上手，最快10分钟完成模式培训。

数据准备:在数据处理中，可以直接使用智能数据服务平台EasyData的强大能力，实现数据收集、评价、清洗、标记的一站式服务。大大降低了用户获取和处理数据的成本。

模型训练:EasyDL内置百度自研超大型视觉预训练模型和自然语言处理的预训练模型文心(ERNIE)2.0，比较开源数据集训练的预训练模型

EasyDL新发发布了多角度模型评价能力，进一步帮助模型调整，包括

通过数据统计，可以帮助开发者正确判断模型在哪个类别中容易出错，

可以进一步说明模型的决策依据，在整个图像范围内给出影响模型识别结果的重要性/p>

模型配置:为了满足不同场景的需求，百度提供公共云API、当地服务器配置、设备方面的SDK、硬件一体化产品四种配置方式。用户只需要经过简单的设置，就可以将培训好的模式转化为满足业务场景需求的服务。在设备方面的SDK上，NVJetson系列、Intel神经加速棒、华为NPU、华为Atlas、高通DSP、RK棒等适应了15种以上的主流芯片和4个操作系统，实现了业界最适应。

另外，EasyDL最近推出了端云协同部署方案。

端云协同部署基于百度开源的智能边缘BIE框架搭建，开发者可以轻松在云端管理各类端与边缘。

在端和边缘设备上，只需一次集成边缘套件，在本地，就可以轻松获得AI模型本地推理、视频流接入等功能。而在云端，可以进行服务的下发和更新，还有报表的统计和节点的管理等功能。

端云协同部署非常适合具有网络(或部分网络)条件下的业务场景，开发人员可以训练模型，在1分钟内将新模型更新到边缘端进行验证或批量部署。大大提高了AI模型开发的配置效率，开发人员可以集中精力于业务本身。

EasyDL端云协同的配置方案可以在箱子、一体机、服务器等各种智能终端中运行，在这些边缘设备中可以访问各种传感器(照相机、MIC等)。结合EasyDL的公有云部署和本地服务器部署，可以方便地构建出云边端融合的一整套AI解决方案，满足各种业务场景下的AI应用需求。

　　全功能AI开发平台BML

BML则面向AI算法开发者构建，在模型构建和模型管理上，BML提供了高性价比的算力、更加易用多样的建模方式。在模型管理上也提供了模型存储、模型转化、模型评估和模型优化的功能。BML可以说为专业算法开发者提供了更灵活、更强大的AI开发平台。

BML具有以下四大核心优势，建模方式全面，预设高性能AI套件，交付灵活，提供多种国产化解决方案，为企业提供自主可控、广泛适应的AI开发平台。

建模方式:BML提供预设模式参考、Notebook、定制作业、可视建模等多种建模方式。其中，预设模型参与在实现低代码建模的基础上，具有一定的脚本编辑灵活性，同时内置自动超参与搜索功能，提高模型效果。BML提供的自动超级搜索功能是基于随机微分方程的无梯度优化创新的调查算法，收敛速度快，不依赖光滑的假设，可以支持大规模的并行搜索调查。打开自动超级搜索后，BML在线多场景的模型精度平均可以提高10%以上。

高性能AI套件:

-高性能机械学习套件。用于数据分析机器学习场景下的加速，套件比开源套件产生十倍的效果，其界面非常兼容，使用高性能的机械学习套件后，在一些常见的开源任务中性能大幅度提高。

-桨文心ERNIE开发套件。飞桨的可持续学习语义学习模式，除此之外还提供30个算法工具，20个细化的预训练模式，20个数据处理工具和20个基础开发工具，大大降低了整个数据标记投入的算法、开发时间，大大提高了效率。

交付方式:BML有公共云、私有云、混合云、一体机四种满足不同需求的交付方式。其中一体机提供了通用的机架式的服务器方案和基于天蝎的整机柜方案，对于整体功耗、性能、散热等都进行了优化，并通过模型加密、代码加固、TPM可信鉴权、主机防护等方式强化了安全保障。

国产化解决方案:BML全面支持从国产深度学习框架到麒麟等国产操作系统，从国产CPU、GPU、长城、曙光、联想、浪潮发布的各种硬件形态，构成自主控制、广泛的BML一体化

企业在智能升级过程中，特别是从单点垂直场景的应用发展到多个业务场景的全面升级阶段，企业面临人工智能能能力的生产、应用和运输和管理水平的诸多问题，此时企业需要人工智能中心

AI中台是企业的智能中枢，连接企业内部的数据、知识和业务，更快更有效地支持上层的智能业务应用和业务创新。百度智能云AI中台的核心是AI能力引擎、AI开发平台，与之相结合的数据管理、服务管理、全线资源运输管理系统等，企业可以构筑智能升级的基础设施。在AI能力引擎方面，企业可以直接从百度已有的270多项成熟AI能力中选择应用。AI开发平台包括EasyDL、BML和场景化定制平台UNIT等，满足企业多层次开发需求。百度智能云结合具体行业特点，目前已经构建了能源、金融、城市、媒体等多个行业化AI中台落地解决方案，为不同行业的企业客户提供建设AI开发和应用的自主能力，集约管理企业AI的能力和资源，统一规划企业智能升级版图的有效途径。

人工智能与传统行业加快融合，进入快速大规模应用阶段，百度释放基于自己AI技术和生态长期积累形成的领先势力，以真正满足智能时代场景应用需求的云智能一体化方式赋予产业能力。云智一体化成为百度智能云的核心优势，也是拥抱AI的企业和开发商的最佳选择。