No menu items

返回项目库

vLLM

vllm-project/vllm

面向大语言模型的推理与服务框架。

Stars
93,849
Forks
23,416
主要语言
Python
许可证
Apache-2.0
AI 工具amdblackwellcudadeepseekdeepseek-v3gptgpt-ossinferencekimillamallmllm-servingmodel-servingmoeopenaipytorchqwenqwen3tputransformer

仓库更新 2026-10-15·指标同步 2026-10-15

数据来自 GitHub

认识这个项目

项目简介

面向大语言模型的推理与服务框架。

了解与使用

请通过下方 GitHub 链接查阅项目 README、部署说明和许可证。项目指标来自 GitHub,以页面记录的同步时间为准。