AI在线 AI在线

端侧AI

AMD 推出开源项目“GAIA”实现本地大模型高效运行:针对锐龙 AI 300 系列处理器优化,目前仅适用于 Windows

在 NPU 上运行 GAIA 可提高 AI 特定任务的性能。从 Ryzen AI 软件版本 1.3 开始,混合支持部署同时使用 NPU 和核显的量化 LLM。
3/22/2025 1:27:09 PM
问舟

端侧版GPT-4o问世,面壁小钢炮实现端到端、全模态实时对话

只用 8B 参数,性能接近 OpenAI GPT-4o。
1/16/2025 5:33:00 PM
李泽南

从云到端:离客户更近的端侧AI「涌现」而至

AI发展正酣,随着终端芯片算力越来越高、端侧模型能力越来越强、实时响应及隐私保护的端侧应用需求增加,端侧AI已然具备落地的条件。 端侧AI离客户和应用场景更近,也是具象化AI的重要方式。 可以看到,端侧AI的浪潮“涌现”而至,原有的用户体验和生态格局将迎来革命性重塑。
12/12/2024 7:13:00 PM
星瑶

推动端侧生成式AI,英特尔已经有了全方位布局

每一个垂直行业,都需要边缘AI。
7/26/2024 4:24:00 PM
李泽南
  • 1