索引 A | B | C | D | E | F | G | H | I | L | M | N | P | R | S | T | U | V | 模 A abort() (vllm.AsyncLLMEngine 方法) abort_request() (vllm.LLMEngine 方法) add_request() (vllm.LLMEngine 方法) AsyncLLMEngine(vllm 中的类) audio(vllm.multimodal.MultiModalDataBuiltins 属性) B batch()(vllm.multimodal.MultiModalInputs 静态方法) BatchedTensorInputs()(在 vllm.multimodal 模块中) beam_search() (vllm.LLM 方法) C chat() (vllm.LLM 方法) check_health() (vllm.AsyncLLMEngine 方法) clone() (vllm.SamplingParams 方法) create_input_mapper() (vllm.multimodal.MultiModalRegistry 方法) create_input_processor() (vllm.inputs.registry.InputRegistry 方法) D DEPRECATE_LEGACY(vllm.LLM 属性) do_log_stats() (vllm.LLMEngine 方法) DO_VALIDATE_OUTPUT(vllm.LLMEngine 属性) dummy_data_for_profiling() (vllm.inputs.registry.InputRegistry 方法) DummyDataFactory(vllm.inputs.registry 中的类) E encode() (vllm.AsyncLLMEngine 方法) encode() (vllm.LLM 方法) engine_step() (vllm.AsyncLLMEngine 方法) F from_engine_args()(vllm.AsyncLLMEngine 类方法) from_engine_args()(vllm.LLMEngine 类方法) G generate() (vllm.AsyncLLMEngine 方法) generate() (vllm.LLM 方法) get_data_key() (vllm.multimodal.image.ImagePlugin 方法) get_data_key() (vllm.multimodal.MultiModalPlugin 方法) get_decoding_config() (vllm.AsyncLLMEngine 方法) get_decoding_config() (vllm.LLMEngine 方法) get_hf_config() (vllm.inputs.registry.InputContext 方法) get_hf_image_processor_config() (vllm.inputs.registry.InputContext 方法) get_lora_config() (vllm.AsyncLLMEngine 方法) get_lora_config() (vllm.LLMEngine 方法) get_max_multimodal_tokens() (vllm.multimodal.MultiModalPlugin 方法) get_max_multimodal_tokens() (vllm.multimodal.MultiModalRegistry 方法) get_mm_limits_per_prompt() (vllm.multimodal.MultiModalRegistry 方法) get_model_config() (vllm.AsyncLLMEngine 方法) get_model_config() (vllm.LLMEngine 方法) get_num_unfinished_requests() (vllm.LLMEngine 方法) get_parallel_config() (vllm.AsyncLLMEngine 方法) get_parallel_config() (vllm.LLMEngine 方法) get_scheduler_config() (vllm.AsyncLLMEngine 方法) get_scheduler_config() (vllm.LLMEngine 方法) get_tokenizer() (vllm.AsyncLLMEngine 方法) H has_unfinished_requests() (vllm.LLMEngine 方法) has_unfinished_requests_for_virtual_engine() (vllm.LLMEngine 方法) I ImagePlugin(vllm.multimodal.image 中的类) image(vllm.multimodal.MultiModalDataBuiltins 属性) init_mm_limits_per_prompt() (vllm.multimodal.MultiModalRegistry 方法) INPUT_REGISTRY()(在 vllm.inputs 模块中) InputContext(vllm.inputs.registry 中的类) InputProcessor()(在 vllm.inputs.registry 模块中) InputRegistry(vllm.inputs.registry 中的类) L LLMEngine(vllm 中的类) LLMInputs()(在 vllm.inputs 模块中) LLM(vllm 中的类) M map_input() (vllm.multimodal.MultiModalPlugin 方法) map_input() (vllm.multimodal.MultiModalRegistry 方法) mm_processor_kwargs(vllm.inputs.TextPrompt 属性) mm_processor_kwargs(vllm.inputs.TokensPrompt 属性) model_config(vllm.inputs.registry.InputContext 属性) multi_modal_data(vllm.inputs.TextPrompt 属性) multi_modal_data(vllm.inputs.TokensPrompt 属性) MULTIMODAL_REGISTRY()(在 vllm.multimodal 模块中) MultiModalDataBuiltins(vllm.multimodal 中的类) MultiModalDataDict()(在 vllm.multimodal 模块中) MultiModalInputs(vllm.multimodal 中的类) MultiModalPlugin(vllm.multimodal 中的类) MultiModalRegistry(vllm.multimodal 中的类) N NestedTensors()(在 vllm.multimodal 模块中) P process_input() (vllm.inputs.registry.InputRegistry 方法) prompt_token_ids(vllm.inputs.TokensPrompt 属性) PromptType()(在 vllm.inputs 模块中) prompt(vllm.inputs.TextPrompt 属性) R register_dummy_data() (vllm.inputs.registry.InputRegistry 方法) register_dummy_encoder_data() (vllm.inputs.registry.InputRegistry 方法) register_image_input_mapper() (vllm.multimodal.MultiModalRegistry 方法) register_input_mapper() (vllm.multimodal.MultiModalPlugin 方法) register_input_mapper() (vllm.multimodal.MultiModalRegistry 方法) register_input_processor() (vllm.inputs.registry.InputRegistry 方法) register_max_image_tokens() (vllm.multimodal.MultiModalRegistry 方法) register_max_multimodal_tokens() (vllm.multimodal.MultiModalPlugin 方法) register_max_multimodal_tokens() (vllm.multimodal.MultiModalRegistry 方法) register_plugin() (vllm.multimodal.MultiModalRegistry 方法) run_engine_loop()(vllm.AsyncLLMEngine 静态方法) S SamplingParams(vllm 中的类) shutdown_background_loop() (vllm.AsyncLLMEngine 方法) start_background_loop() (vllm.AsyncLLMEngine 方法) start_profile() (vllm.AsyncLLMEngine 方法) step() (vllm.LLMEngine 方法) stop_profile() (vllm.AsyncLLMEngine 方法) T TextPrompt(vllm.inputs 中的类) TokensPrompt(vllm.inputs 中的类) U update_from_generation_config() (vllm.SamplingParams 方法) V vllm.engine 模块 vllm.inputs.registry 模块 vllm.multimodal 模块 vllm.multimodal.image 模块 模 模块 vllm.engine vllm.inputs.registry vllm.multimodal vllm.multimodal.image