使用 tf.data API 提升性能

在 TensorFlow.org 上查看 在 Google Colab 中运行 在 GitHub 中查看源代码 下载笔记本

概述

GPU 和 TPU 能够极大缩短执行单个训练步骤所需的时间。为了达到最佳性能，需要高效的输入流水线，以在当前步骤完成之前为下一步提供数据。tf.data API 有助于构建灵活高效的输入流水线。本文档演示了如何使用 tf.data API 构建高性能的 TensorFlow 输入流水线。

继续之前，请阅读“构建 TensorFlow 输入流水线”指南，了解如何使用 tf.data API。

资源

设置

import tensorflow as tf

import time

2022-12-14 21:11:32.029129: W tensorflow/compiler/xla/stream_executor/platform/default/dso_loader.cc:64] Could not load dynamic library 'libnvinfer.so.7'; dlerror: libnvinfer.so.7: cannot open shared object file: No such file or directory
2022-12-14 21:11:32.029242: W tensorflow/compiler/xla/stream_executor/platform/default/dso_loader.cc:64] Could not load dynamic library 'libnvinfer_plugin.so.7'; dlerror: libnvinfer_plugin.so.7: cannot open shared object file: No such file or directory
2022-12-14 21:11:32.029253: W tensorflow/compiler/tf2tensorrt/utils/py_utils.cc:38] TF-TRT Warning: Cannot dlopen some TensorRT libraries. If you would like to use Nvidia GPU with TensorRT, please make sure the missing libraries mentioned above are installed properly.

在本指南中，您将对数据集进行迭代并衡量性能。制定可重现的性能基准可能很困难。影响重现性的不同因素包括：

  • 当前的 CPU 负载
  • 网络流量
  • 缓存等复杂机制

要获得可重现的基准，需要构建人工样本。

数据集

定义一个继承自 tf.data.Dataset 的类，称为 ArtificialDataset。此数据集：

  • 生成 num_samples 个样本（默认数量为 3）
  • 会在第一项模拟打开文件之前休眠一段时间
  • 在生成每项之前休眠一段时间，以模拟从文件读取数据
class ArtificialDataset(tf.data.Dataset):
    def _generator(num_samples):
        # Opening the file
        time.sleep(0.03)

        for sample_idx in range(num_samples):
            # Reading data (line, record) from the file
            time.sleep(0.015)

            yield (sample_idx,)

    def __new__(cls, num_samples=3):
        return tf.data.Dataset.from_generator(
            cls._generator,
            output_types=tf.dtypes.int64,
            output_shapes=(1,),
            args=(num_samples,)
        )

此数据集类似 tf.data.Dataset.range，在开头和每个样本之间添加了固定延迟。

训练循环

接下来，编写一个虚拟的训练循环，以测量迭代数据集所用的时间。训练时间是模拟的。

def benchmark(dataset, num_epochs=2):
    start_time = time.perf_counter()
    for epoch_num in range(num_epochs):
        for sample in dataset:
            # Performing a training step
            time.sleep(0.01)
    tf.print("Execution time:", time.perf_counter() - start_time)

优化性能

为了展示如何优化性能，下面我们将优化 ArtificialDataset 的性能。

朴素的方法

先从不使用任何技巧的朴素流水线开始，按原样迭代数据集。

benchmark(ArtificialDataset())

Execution time: 0.23592574200029048

从后台可以看到执行时间的花费情况：

Naive

可以看到，执行一个训练步骤涉及以下操作：

  • 打开文件（如果尚未打开）
  • 从文件获取数据条目
  • 使用数据进行训练

但是，在类似这里的朴素同步实现中，当流水线在获取数据时，模型会处于空闲状态。相反，当模型在进行训练时，输入流水线会处于空闲状态。因此，训练步骤的用时是打开、读取和训练时间的总和。

接下来的各部分将基于此输入流水线，演示设计高效 TensorFlow 输入流水线的最佳做法。

预提取

预提取会与训练步骤的预处理和模型执行重叠。在模型执行第 s 步训练的同时，输入流水线会读取第 s+1 步的数据。这样做能够最大程度减少训练的单步用时（而非总和），并减少提取数据所需的时间。

tf.data API 提供了 tf.data.Dataset.prefetch 转换。它可以用来将生成数据的时间和使用数据的时间分离。特别是，该转换会使用后台线程和内部缓冲区在请求元素之前从输入数据集中预提取元素。要预提取的元素数量应等于（或可能大于）单个训练步骤使用的批次数。您可以手动调整这个值，或者将其设置为 tf.data.AUTOTUNE，这将提示 tf.data 运行时在运行期间动态调整该值。

注意，只要有机会将“生产者”的工作和“使用者”的工作重叠，预提取转换就能带来好处。

benchmark(
    ArtificialDataset()
    .prefetch(tf.data.experimental.AUTOTUNE)
)

Execution time: 0.23147455700018327

Prefetched

这次您可以看到，在针对样本 0 运行训练步骤的同时，输入流水线正在读取样本 1 的数据，依此类推。

并行数据提取

在实际设置中，输入数据可能会远程存储（例如，在 Google Cloud Storage 或 HDFS 上）。由于在本地存储空间和远程存储空间之间存在以下差异，在本地读取数据时运行良好的数据集流水线可能会在远程读取数据时成为 I/O 瓶颈：

  • 到达第一字节用时：从远程存储空间中读取文件的第一个字节所花费的时间要比从本地存储空间中读取所花费的时间长几个数量级。
  • 读取吞吐量：虽然远程存储空间通常提供较大的聚合带宽，但读取单个文件可能只能使用此带宽的一小部分。

此外，将原始字节加载到内存中后，可能还需要对数据进行反序列化和/或解密（例如 protobuf），这需要进行额外计算。无论数据是本地存储还是远程存储，都会存在此开销，但如果没有高效地预提取数据，在远程情况下会更糟。

为了减轻各种数据提取开销的影响，可以使用 tf.data.Dataset.interleave 转换来并行化数据加载步骤，从而交错其他数据集（如数据文件读取器）的内容。可以通过 cycle_length 参数指定想要重叠的数据集数量，并通过 num_parallel_calls 参数指定并行度级别。与 prefetch 转换类似，interleave 转换也支持 tf.data.AUTOTUNE，它将让 tf.data 运行时决定要使用的并行度级别。

顺序交错

tf.data.Dataset.interleave 转换的默认参数会使其按顺序交错两个数据集中的单个样本。

benchmark(
    tf.data.Dataset.range(2)
    .interleave(ArtificialDataset)
)

WARNING:tensorflow:From /tmpfs/tmp/ipykernel_89114/785647145.py:13: calling DatasetV2.from_generator (from tensorflow.python.data.ops.dataset_ops) with output_types is deprecated and will be removed in a future version.
Instructions for updating:
Use output_signature instead
WARNING:tensorflow:From /tmpfs/tmp/ipykernel_89114/785647145.py:13: calling DatasetV2.from_generator (from tensorflow.python.data.ops.dataset_ops) with output_shapes is deprecated and will be removed in a future version.
Instructions for updating:
Use output_signature instead
Execution time: 0.2584234989999459

Sequential interleave

此数据执行时间图可以展示 interleave 转换的行为，从两个可用的数据集中交替提取样本。但是，这里不涉及性能改进。

并行交错

现在，使用 interleave 转换的 num_parallel_calls 参数。这样可以并行加载多个数据集，从而减少等待打开文件的时间。

benchmark(
    tf.data.Dataset.range(2)
    .interleave(
        ArtificialDataset,
        num_parallel_calls=tf.data.experimental.AUTOTUNE
    )
)

Execution time: 0.2078962689997752

Parallel interleave

这次，两个数据集的读取并行进行，从而减少了全局数据处理时间。

并行数据转换

准备数据时，可能需要对输入元素进行预处理。为此，tf.data API 提供了 tf.data.Dataset.map 转换，该转换会将用户定义的函数应用于输入数据集的每个元素。由于输入元素彼此独立，可以在多个 CPU 核心之间并行预处理。为了实现这一点，类似 prefetch 和 interleave 转换，map 转换也提供了num_parallel_calls 参数来指定并行度级别。

num_parallel_calls 参数最佳值的选择取决于您的硬件、训练数据的特性（如数据大小和形状）、映射函数的开销，以及同一时间在 CPU 上进行的其他处理。一个简单的试探法是使用可用的 CPU 核心数。但是，对于 prefetch 和 interleave 转换，map 转换支持 tf.data.AUTOTUNE，它将让 tf.data 运行时决定要使用的并行度级别。

def mapped_function(s):
    # Do some hard pre-processing
    tf.py_function(lambda: time.sleep(0.03), [], ())
    return s

顺序映射

首先使用不具有并行度的 map 转换作为基准示例。

benchmark(
    ArtificialDataset()
    .map(mapped_function)
)

WARNING:tensorflow:From /tmpfs/src/tf_docs_env/lib/python3.9/site-packages/tensorflow/python/autograph/pyct/static_analysis/liveness.py:83: Analyzer.lamba_check (from tensorflow.python.autograph.pyct.static_analysis.liveness) is deprecated and will be removed after 2023-09-23.
Instructions for updating:
Lambda fuctions will be no more assumed to be used in the statement where they are used, or at least in the same block. https://github.com/tensorflow/tensorflow/issues/56089
Execution time: 0.4232728860001771

Sequential mapping

对于朴素方法来说，单次迭代的用时就是花费在打开、读取、预处理（映射）和训练步骤上的时间总和。

并行映射

现在，使用相同的预处理函数，但将其并行应用于多个样本。

benchmark(
    ArtificialDataset()
    .map(
        mapped_function,
        num_parallel_calls=tf.data.experimental.AUTOTUNE
    )
)

Execution time: 0.30039678700040895

Parallel mapping

如数据图表所示，预处理步骤重叠，从而减少了单次迭代的总时间。

缓存

tf.data.Dataset.cache 转换可以在内存中或本地存储空间中缓存数据集。这样可以避免一些运算（如文件打开和数据读取）在每个周期都被执行。

benchmark(
    ArtificialDataset()
    .map(  # Apply time consuming operations before cache
        mapped_function
    ).cache(
    ),
    5
)

Execution time: 0.35351189199991495

Cached dataset

缓存数据集时，仅在第一个周期执行一次 cache 之前的转换（如文件打开和数据读取）。后续周期将重用通过 cache 转换缓存的数据。

如果传递到 map 转换的用户定义函数开销很大，可在 map 转换后应用 cache 转换，只要生成的数据集仍然可以放入内存或本地存储空间即可。如果用户定义函数增加了存储数据集所需的空间（超出缓存容量），在 cache 转换后应用该函数，或者考虑在训练作业之前对数据进行预处理以减少资源使用。

向量化映射

调用传递给 map 转换的用户定义函数会产生与调度和执行用户定义函数相关的开销。对用户定义函数进行向量化处理（即，让它一次运算一批输入）并在 map 转换之前应用 batch 转换。

为了说明这种良好做法，不适合使用您的人工数据集。调度延迟大约为 10 微妙（10e-6 秒），远远小于 ArtificialDataset 中使用的数十毫秒，因此很难看出它的影响。

在本示例中，我们使用基本 tf.data.Dataset.range 函数并将训练循环简化为最简形式。

fast_dataset = tf.data.Dataset.range(10000)

def fast_benchmark(dataset, num_epochs=2):
    start_time = time.perf_counter()
    for _ in tf.data.Dataset.range(num_epochs):
        for _ in dataset:
            pass
    tf.print("Execution time:", time.perf_counter() - start_time)

def increment(x):
    return x+1

标量映射

fast_benchmark(
    fast_dataset
    # Apply function one item at a time
    .map(increment)
    # Batch
    .batch(256)
)

Execution time: 0.22000337100007528

Scalar map

上图说明了正在发生的事情（样本较少）。您可以看到已将映射函数应用于每个样本。虽然此函数速度很快，但会产生一些开销影响时间性能。

向量化映射

fast_benchmark(
    fast_dataset
    .batch(256)
    # Apply function on a batch of items
    # The tf.Tensor.__add__ method already handle batches
    .map(