p99延迟是什么?

Sep 22 2020 Linux

Go1.14发布时,Sameer Ajmani 再说明其性能提升时提到一个 p99 延迟,查了资料,但是最近突然想起来又忘记了,这里记录下来。

原文是说:

Some data: improved loaded gRPC server throughput by 15% & reduced p99 latency by 36%; reduced worst-case tail latency by up to 2,000x (429 ms ⇒ 192 us) in application benchmx; reduced latency 25% & improved throughput 20% in application benchmx; improved microbenchmx up to 15%

这里提到 Go1.14下 gRPC p99 延迟降低了 36%。

那什么 p99 延迟?简单而言就是一段时间内,所有请求中最快的 99% 请求平均延迟,同理p95就是快的95%的请求延迟。p99延迟能直观的衡量服务器性能指标。

StackFlow 的一个答案举了一个例子:

1
2
3
4
5
6
7
8
9
Latency    Number of requests
1s 5
2s 5
3s 10
4s 40
5s 20
6s 15
7s 4
8s 1

7秒内完成了 99 个请求,那么 p99 就是 7秒。