
vLLM 快速高效的 LLM 推理:DeepLearning.AI 新课程发布
·阅读时间 5 分钟
我们很高兴与 Red Hat 和吴恩达的 DeepLearning.AI 共同宣布推出一门实践课程,该课程将深入讲解 LLM 基础知识,以及完整的 AI 部署生命周期(包括优化、部署和基准测试)...
6 文章

我们很高兴与 Red Hat 和吴恩达的 DeepLearning.AI 共同宣布推出一门实践课程,该课程将深入讲解 LLM 基础知识,以及完整的 AI 部署生命周期(包括优化、部署和基准测试)...

vLLM 韩国聚会 2026 于 4 月 2 日在首尔举行,由 vLLM KR 社区主办,并得到了 Rebellions、SqueezeBits、Red Hat APAC 和 PyTorch 韩国的大力支持。

长期以来,vllm.ai 只是直接跳转到 vLLM 的 GitHub 页面。感谢我们的社区,我们现在有了全新的 vllm.ai 网站,其设计灵感来自于 PyTorch 网站。

韩国首届 vLLM 聚会于 2025 年 8 月 19 日在首尔举行,由 Rebellions 和 Red Hat 主办,并得到了 PyTorch 韩国用户组和 SqueezeBits 的支持。

vLLM 社区在 2024 年取得了显著增长,从一个专业的推理引擎演变为开源 AI 生态系统的事实标准服务解决方案。这种转型是...

我们想与 vLLM 社区分享两个更新。