ray.serve.config.gRPCOptions#

class ray.serve.config.gRPCOptions(*, port: int = 9000, grpc_servicer_functions: List[str] = [])[源代码]#

基类:BaseModel

代理的 gRPC 选项。支持的字段:

参数:
  • port (int) – 如果启动了 gRPC 服务器,则为端口。默认为 9000。一旦 Serve 开始运行,就无法更新。必须关闭 Serve 并使用新端口重新启动。

  • grpc_servicer_functions (List[str]) – gRPC add_servicer_to_server 函数的导入路径列表,用于添加到 Serve 的 gRPC 代理。默认为空列表,这意味着不会添加任何 gRPC 方法,也不会启动 gRPC 服务器。服务函数需要可以从 Serve 运行的上下文中导入。

PublicAPI (alpha): 此API处于alpha阶段,可能在稳定之前发生变化。

方法

__init__

通过解析和验证来自关键字参数的输入数据来创建一个新模型。

construct

从受信任或预验证的数据中创建一个新的模型设置 __dict__ 和 __fields_set__。

copy

复制一个模型,可以选择性地包含、排除和更改哪些字段。

dict

生成模型的字典表示,可以选择性地指定要包含或排除的字段。

json

生成模型的 JSON 表示,includeexclude 参数按照 dict() 的方式处理。

update_forward_refs

尝试根据此模型、globalns 和 localns 更新字段上的 ForwardRefs。

属性

grpc_servicer_func_callable

从 grpc_servicer_functions 返回一个可调用函数的列表。

port

grpc_servicer_functions