Go1.14发布时,Sameer Ajmani 再说明其性能提升时提到一个 p99 延迟,查了资料,但是最近突然想起来又忘记了,这里记录下来。
原文是说:
Some data: improved loaded gRPC server throughput by 15% & reduced p99 latency by 36%; reduced worst-case tail latency by up to 2,000x (429 ms ⇒ 192 us) in application benchmx; reduced latency 25% & improved throughput 20% in application benchmx; improved microbenchmx up to 15%
这里提到 Go1.14下 gRPC p99 延迟降低了 36%。
那什么 p99 延迟?简单而言就是一段时间内,所有请求中最快的 99% 请求平均延迟,同理p95就是快的95%的请求延迟。p99延迟能直观的衡量服务器性能指标。
StackFlow 的一个答案举了一个例子:
1 2 3 4 5 6 7 8 9
| Latency Number of requests 1s 5 2s 5 3s 10 4s 40 5s 20 6s 15 7s 4 8s 1
|
7秒内完成了 99 个请求,那么 p99 就是 7秒。