智能新闻 SGLang加速Llama 405B推理性能超越vLLM、Ten 2024年7月28日 近日，国内人工智能领域又迎来了一项重要突破，由LMSYS Org团队研发的SGLang Runtime v0.2正式上线，该系统…