ray.serve.exceptions.BackPressureError

exception ray.serve.exceptions.BackPressureError(*, num_queued_requests: int, max_queued_requests: int)

当 DeploymentHandle 上的 max_queued_requests 超过时引发。

PublicAPI (alpha): 此API处于alpha阶段，可能在稳定之前发生变化。