基于NVIDIAGPU定制优化的NGC飞桨容器

描述

在过去的半年里,NVIDIA 与百度飞桨紧密合作,针对用户的多层次需求,双方联合开发了三大主要产品:

基于 NVIDIA GPU 定制优化的 NGC 飞桨容器,包含了最新的 NVIDIA 工具包和优化后的飞桨版本,致力于为开发者提供最佳的开发环境。

GitHub 上 NVIDIA Deep Learning Examples[1] 仓库向用户提供易于训练和部署的飞桨模型示例。

在 NVIDIA 深度学习培训中心 DLI Course[2],NVIDIA 与飞桨共建的系列免费课程及联名认证证书也即将上线,旨在帮助大家提高训推性能并简化代码。(课程预计下半年与大家见面)

容器是什么?为什么要使用容器?

容器包含了深度学习框架在运行时所需的所有部件(包括驱动,工具包等),被认为是在同一环境中实现“构建、测试、部署”的最佳平台。因为它具有轻量化与可复制性、打包和执行环境合二为一以及简化应用程序部署的优势。容器允许我们创建标准化可复制的轻量级开发环境,摆脱来自 Hypervisor 所带来运行开销。应用程序可以基于 Container Runtime 运行在“任意”系统中。

为什么要开发 NGC 飞桨容器?

根据多份市场调研报告显示,飞桨已位居中国深度学习平台市场首位,并构建了全球前三、中国第一的 AI 开发者生态。如何确保庞大规模的飞桨开发者,尤其是采用 NVIDIA 平台的飞桨用户持续获得最佳的开发体验,始终是飞桨和 NVIDIA 团队共同关注的话题。

飞桨和 NVIDIA 团队从与开发者用户的持续交流中,收集到了一些使用上的痛点需求。比如,在提供 NGC 飞桨容器前,飞桨用户如果希望使用 NVIDIA 最新软件栈进行开发、训练、部署,需要做大量的手动配置工作,这对不少用户而言是一个巨大的工程挑战。

针对这些需求,NVIDIA 与百度飞桨联合开发了 NGC 飞桨容器,将最新的飞桨与最新的 NVIDIA 的软件栈进行了无缝的集成与性能优化,最大程度的释放飞桨框架在 NVIDIA 最新硬件上的计算能力。这样,用户不仅可以快速开启 AI 应用,专注于创新和应用本身,还能够在 AI 训练和推理任务上获得飞桨 + NVIDIA 带来的飞速体验。

“NGC 飞桨容器”与“飞桨现有容器”版本的区别是什么?

飞桨现有的容器版本提供了全面的、在不同软件版本和环境下的飞桨容器,用户可以根据自己当前的软硬件环境,挑选相应的容器来下载使用。

而 NGC 飞桨容器跟飞桨现有的容器相比,有哪些显著的优势?

以月为单位升级更新,每月底发布全新版本,无需注册即可下载。

集成了最新的 NVIDIA 的软件栈(在 NGC 飞桨容器上线前,飞桨官网容器最新版是 CUDA 11.2, 而 NVIDIA CUDA 最新版本已更新至 CUDA 11.7),且双方针对最新版本的软件栈对飞桨进行了适配和优化。此外, NGC 飞桨容器还集成了更新的 Ubuntu OS 版本(Ubuntu 20.04)。

在验证过的模型上拥有更佳的性能(目前,双方已在 GitHub NVIDIA Deep Learning Examples中发布了 ResNet50 模型)。

产品经过严格的开发测试流程,包括 CI(Continuous Integration,持续集成)、CD(Continuous Deployment,持续部署)、QA(Quality Assurance,质量保证)以及针对各类硬件和各种硬件拓扑等的开发测试流程),且每次更新版本都会提供对应详尽的产品介绍、同类产品的对比、可靠度测试及扫描报告。

需要说明的是,以上 NGC 飞桨容器的特性最终都将被 GitHub 飞桨代码库集成。

NGC

 

NGC

如何下载并使用 NGC 飞桨容器?

NGC 飞桨容器已经集成入飞桨官网主页。你可以选择 “飞桨版本”+“Linux”+“Docker”+“CUDA 11.7”找到对应的 Container 下载指令。

NGC

运行结果如下

NGC

此外,你也可登录 NVIDIA NGC 官网,无需注册即可下载获得丰富详细的英文版介绍文档及下载链接。NGC官网中还有更多  NVIDIA  针对 AI 优化的容器,工具包,模型等。

  审核编辑:汤梓红

 
打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分