使用 NGC 集合构建和部署皮带检测应用程序

常用 NGC 实现和地面部队口罩检测API

AI 临时工流程很复杂。实现一个 AI API不是一项最简单的任务，因为它只能各种具备应用领域长处的各种利益管理者来大规模开发和地面部队API。样本科学家和开发人员只能方便地访问应用软件实现块，例如为数学模型和桶内，它们不仅安全、高性能，而且具备实现其 AI 为数学模型所只需的基础体系结构。

在实现完API之后，DevOps 和 IT 高层只能一些方法，这些方法可以鼓励他们在各种电源相互间无缝地地面部队和管理这些API，之外本地电源、碧电源或边缘电源。

NVIDIA 实现了 NGC 录入，通过备有易于访问的 GPU 优化应用软件，例如桶内、必只需体能训练的为数学模型、应用框架和实现 AI API所只需的 Helm 图列于，来比较最简单和快速 AI 临时工流程。

在这篇文章当中，我们将展示如何常用 NGC 录入和它的核心底层特性，例如集合、NGC 私有注册列于和 AI 实现块来实现和地面部队一个口罩检测API，作为一个示例，该示例展示了 development-to-deployment 管道。

比较最简单常用者历险

随着 NGC 的面世，NVIDIA 比较最简单了整个常用者体验，并将所只需的特别桶内、为数学模型、编译器和 Helm 图列于集当中在一个大都，而无只需在录入当中定位和协调各种独立的实现块。

您可以找出针对特定任务的临时工负载的 NGC 集合，如系统会字词识别或图形分类，以及大型企业 SDK，例如 NVIDIA Clara 或迁移学习 (TLT)。如果您希望实现一个用于实例检测的API，那么在录入当中查询该集合，您将在一个大都找出所有特别负债。

常用 NVIDIA TF32 Tensor Cores 快速 AI 体能训练

NVIDIA Ampere GPU 体系结构引入了第三代 Tensor Cores，以及新的TensorFloat32 (TF32) 来进行快速 FP32 DFT和乘法加法。TF32 来进行是AmpereGPU 体系结构上 32 位样本并不一定的 AI 体能训练的当前选项。它为单精度DL临时工负载带来了 Tensor Core 快速，而不只能对为数学模型制作者进行任何更换。

常用本机16 位音频 (FP16/BF16) 的混和精度体能训练依然是最快的并不只需要，只只能为数学模型制作者当中的几行编译器。列于1显示了与 FP32 CUDA 核相比，A100Tensor Cores 的为数学货运量。没人指出的是，对于单精度体能训练，A100 备有的为数学货运量比上九代体能训练GPU V100 高 10 倍。

内部构造

TF32 是 GPU 体系结构 Ampere 九代 Tensor Core 当中附加的一种新的计算出来来进行。点积计算出来，它组合而成了乘法加法和DFT的实现块，将 FP32 的读写轮化到 TF32，在不损失精度的意味著计算出来产品，然后将这些产品积累到 FP32 输出当中。

TF32 只是作为 Tensor Core 操作方法来进行公开，而不是一个并不一定。文件系统当中的所有磁盘和其他操作方法完全沿用在 FP32 当中，只有DFT和乘法加法在加法之前将它们的读写转换为 TF32。比如说，16位并不一定备有磁盘、各种为数算符等等。