廖维明
首页关于项目
返回博客列表

标签

SGLang1 篇文章

Qwen3-ASR-1.7B 在 A100 上:SGLang-Omni 与 vLLM-Omni 的一次可审计对比

2026年9月3日

同一 A100、同一 6.48 秒音频和同一并发矩阵下,SGLang-Omni 在本次配置中吞吐领先;但并发上限与调度配置不同,不能把它解读为纯引擎结论。

vLLMSGLangQwen3-ASRBenchmarkA100AI Infra

导航

  • 首页
  • 关于
  • 项目
  • 博客

技术栈

  • AI Agent / LLM
  • 推理优化 / vLLM
  • Data + AI
  • Cloud Native

联系

  • liaowm5@email.com
  • GitHub

© 2026 廖维明. All rights reserved.