AI · 工具网aigongjuwang.cn

全部工具 AI编程工具 AI 推理框架 AI办公工具 AI搜索工具 AI 模型社区 AI智能体 AI 绘画设计 AI聊天助手 AI视频工具 AI电商工具 AI数据工具 AI健康医疗 AI社交媒体 AI浏览器插件 AI图像工具 AI写作工具 AI 3D建模 AI翻译工具 AI游戏开发 AI音频工具 AI提示词 AI教育学习 AI 本地部署工具 AI 漫剧制作 MCP 插件

暗色模式

加载中...

粤ICP备2026107010号-2 粤公网安备44196902000144号

vLLM

vLLM

AI 推理框架

🔥🔥🔥32.2 万次访问0 人收藏收录于 2026/1/25

工具介绍

目前最主流的开源大模型高性能推理引擎，高吞吐量与节省显存的首选

基本信息

工具名称: vLLM
所属分类: AI 推理框架
官网地址: github.com/vllm-project/vllm
热度: 🔥🔥🔥
累计访问: 2.2 万次
收藏: 0 次

相似工具

查看全部 AI 推理框架

TensorRT-LLM

🔥 3 · 4.3万

SGLang

🔥 3 · 1.2万

Mooncake/LMCache

🔥 2 · 0.5万

Fairseq2

🔥 1 · 0.1万

Tengine

🔥 1 · 0.1万

Optimate

🔥 1 · 0.1万

Wasmedge

🔥 1 · 0.1万

Tract

🔥 1 · 0.1万

Middleware

🔥 1 · 0.1万

Ncnn

🔥 1 · 0.1万

Sail

🔥 1 · 0.1万

Postgresml

🔥 1 · 0.1万