135m
AMD 推出自家首款小语言 AI 模型“Llama-135m ”，主打“推测解码”能力可减少 RAM 占用
AMD 在 Huggingface 平台公布了自家首款“小语言模型”AMD-Llama-135m，该模型具有推测解码功能，拥有 6700 亿个 token，采用 Apache 2.0 开源许可，AI在线附模型地址如下（点此访问）。据介绍，这款模型主打“推测解码”能力，其基本原理是使用小型草稿模型生成一组候选 token，然后由更大的目标模型进行验证。这种方法允许每次前向传递生成多个 token，而不会影响性能，从而显著减少 RAM 占用，实现效率提升。AMD 表示，这款模型在四个 AMD Instinct MI25
9/29/2024 5:08:32 PM
漾仔
- 1
资讯热榜
生成式 AI 已过时：英伟达黄仁勋首提 Agentic AI，后续是机器人 Physical AI
FP8模型不再挑卡！DeepSeek推理成本减半速度翻番，清华团队开源「赤兔」推理引擎
早报速读！2025年最新AI视频产品评测＆优秀案例
清华团队开源 “赤兔 Chitu” 推理引擎，助力国产 AI 生态发展
无需训练，100%完美检索！LLM练出「火眼金睛」，InfiniRetri超长文本一针见血
OpenAI重磅剧透:GPT-5“很快推出”，CPO预测年内AI代码自动化将达99%!
Anthropic发布MCP传输机制重大升级：告别长连接，迎接更灵活的"Streamable HTTP"
全国首例：一男子利用 AI 撰写色情小说牟利 2 万余元，被判有期徒刑 10 个月罚款 5000 元
标签云
人工智能
OpenAI
AIGC
AI
ChatGPT
AI绘画
DeepSeek
机器人
数据
谷歌
大模型
Midjourney
模型
智能
用户
学习
GPT
开源
微软
AI创作
图像
Meta
技术
论文
Stable Diffusion
马斯克
算法
生成式
蛋白质
Gemini
芯片
代码
神经网络
腾讯
计算
研究
Sora
英伟达
AI设计
3D
AI for Science
GPU
开发者
机器学习
场景
华为
Anthropic
预测
伟达
Transformer
模态
百度
深度学习
AI视频
苹果
驾驶
文本
搜索
神器推荐
xAI
LLaMA
算力
Copilot
人形机器人
安全
科技
视频生成
应用
字节跳动
具身智能
干货合集
2024
视觉
大语言模型
AGI
Claude
特斯拉
亚马逊
语音
架构