AI在线 AI在线

Qwen3即将来袭：阿里云新模型支持获vLLM合并，性能备受期待

作者：AI在线
2025-04-08 11:01
相关标签：
大语言模型 阿里云 VLLM Qwen3

相关资讯

AI 发现16万种新RNA病毒成果登上《Cell》后，我们和阿里云算法专家贺勇聊了聊

AI 发现16万种新RNA病毒成果登上《Cell》后，我们和阿里云算法专家贺勇聊了聊
近期，AI for Science 领域的惊喜不断，持续在物理、化学、生物领域开花结果。 不仅诺贝尔物理和化学奖双双颁给 AI 领域的科学家，阿里云与中山大学的科研也带来了RNA病毒寻找的突破，国际顶级学术期刊《Cell》收录了这一研究论文。 《基于人工智能探索和记录隐藏的RNA病毒世界》论文提出深度学习模型"LucaProt"，用于快速准确判别RNA病毒，颠覆传统病毒发现方法。
10/15/2024 3:18:00 PM
王轶群
DeepSeek推理引擎开源新路径，助力vLLM生态再升级

DeepSeek推理引擎开源新路径，助力vLLM生态再升级
最近，DeepSeek 宣布了一项重要决定:将其自研的推理引擎进行开源，但并不会直接向公众开放完整的代码库。 相反，他们选择与现有的开源项目 vLLM 合作，致力于分享核心的优化成果。 这一举动旨在解决开源社区中普遍存在的代码库分歧、基础设施依赖及维护资源有限等难题。
4/16/2025 2:01:15 PM
AI在线
使用 VLLM 部署 DeepSeek：基于 Ubuntu 22.04 + RTX 4090 + Docker 的完整指南

使用 VLLM 部署 DeepSeek：基于 Ubuntu 22.04 + RTX 4090 + Docker 的完整指南
最近，大语言模型（LLM）的部署已经成为 AI 开发者绕不开的核心技能。 而 VLLM 作为一款高性能、低延迟的推理引擎，在大模型推理领域迅速崛起。 今天，我就带大家从零开始，在 Ubuntu 22.04 RTX 4090 Docker 环境下，部署 DeepSeek模型，并让它跑起来！
3/12/2025 12:37:50 PM
写代码的中年人
评论
顶部