监控反压

    如果你看到一个 task 发生 反压警告（例如： ），意味着它生产数据的速率比下游 task 消费数据的速率要快。 在工作流中数据记录是从上游向下游流动的（例如：从 Source 到 Sink）。反压沿着相反的方向传播，沿着数据流向上游传播。

    以一个简单的 Source -> Sink job 为例。如果看到 Source 发生了警告，意味着 Sink 消费数据的速率比 生产数据的速率要慢。 Sink 正在向上游的 Source 算子产生反压。

    Task（SubTask）的每个并行实例都可以用三个一组的指标评价：

    • backPressureTimeMsPerSecond，subtask 被反压的时间
    • busyTimeMsPerSecond，subtask 实际工作时间 在任何时间点，这三个指标相加都约等于1000ms。

    在内部，反压根据输出 buffers 的可用性来进行判断的。 如果一个 task 没有可用的输出 buffers，那么这个 task 就被认定是在被反压。 相反，如果有可用的输入，则可认定为闲置，

    WebUI 集合了所有 subTasks 的反压和繁忙指标的最大值，并在 JobGraph 中将集合的值进行显示。除了显示原始的数值，tasks 也用颜色进行了标记，使检查更加容易。

    在 Job Overview 旁的 Back Pressure 选项卡中，你可以找到更多细节指标。

    监控反压 - 图2

    如果你看到 subtasks 的状态为 OK 表示没有反压。HIGH 表示这个 subtask 被反压。状态用如下定义：

    • OK: 0% <= 反压比例 <= 10%
    • HIGH: 50% < 反压比例 <= 100%