最高1557 TOPS!AMD RDNA 4架构算力暴增4倍:本地跑大模型不卡了
9月28日消息,最高增倍AMD近日公布RDNA 4架构在AI算力上的构算核心数据:与上一代RDNA 3相比,AI计算能力达到原来的力暴4倍以上,每个计算单元配备2个AI加速器,本地支持FP8、模型INT8等新数据类型及稀疏性加速,最高增倍Radeon RX 9000系列显卡最高算力达1557 TOPS。构算
这一算力提升直接改善了本地大模型推理体验,力暴让Radeon显卡在运行本地AI模型时更流畅,本地告别卡顿。模型
架构落到产品上,最高增倍就是构算Radeon RX 9000系列显卡。该系列GPU最多配备16GB GDDR6显存,力暴其中RX 9070配16GB显存,本地定位AI加速入门级产品;工作站端的模型Radeon AI PRO R9700将显存做到32GB,可容纳更大的模型权重,面向高级AI工作流。
软件生态是AI落地的关键。AMD明确Radeon显卡可通过编程支持Microsoft DirectML等主流机器学习框架,部分Radeon显卡还支持AMD ROCm开放式软件平台。
AMD已发布ROCm 6.0,扩大对客户端机器学习开发的硬件与软件支持;此前ROCm 5.7已与PyTorch配合,为Radeon RX 7900 XT、RX 7900 XTX和Radeon PRO W7900 GPU提供支持。
这些软件栈让本地推理有了现成路径。借助锐龙AI PC或Radeon 7000系列显卡,可在本地运行基于GPT LLM的专属AI聊天机器人实例。AMD Software内也加入了AMD Chat等AI功能,并提供AMD噪音抑制,用于智能背景噪音消除。
本地推理之外,应用生态覆盖内容创作和生成式AI两条线。创作侧兼容Adobe Photoshop、DaVinci Resolve、Blender;生成式视觉应用包括Automatic1111和Stable Diffusion WebUI-DirectML。
文本生成方面也有成熟工具。LM Studio定位为安装方便、全面加速的离线应用;OLLAMA则针对AMD Radeon做了优化,可高效运行Llama 2。
(责任编辑:关于我们)
- 《巫师3》重制版博主可提前游玩 光追实机 9月29日推出
- iPhone Ultra初期产能极低:国行开售时间延期!首批优先供应美国
- 野马明年就没了?怀念那些消失了的小而美赛事
- OriginOS 7蓝河流畅引擎全面升级:复杂动效、多任务切换照样丝滑
- 公众号发文8分钟后,股价直线涨停!605388回应:时间确有巧合
- 刘翔得到过应有的保护吗?
- 上海体育局回应刘翔“买断”争议:将保持良好沟通妥善安置
- 小米宣布智能表盘2 9月7日上线!支持转头互动、表情更丰富
- 仅105元 小米新款电动剃须刀上架众筹 三刀头适配多种脸型
- 货拉拉只拉着一台破旧电饭煲 运费却要300元 拆开后暗藏玄机
- 货拉拉只拉着一台破旧电饭煲 运费却要300元 拆开后暗藏玄机
- 小米宣布智能表盘2 9月7日上线!支持转头互动、表情更丰富
- 李亚鹏辟谣女儿窦靖童现身直播间:从来没进过 也不会让孩子们进
- 联想全新卷轴概念机首秀!实机上手体验:14英寸一键变17英寸
- 7700元维修费省了!华硕ROG Strix G16主板免费换新:新板还贴胶带防短路
- 赶在发布会前!运营商晒iPhone 18 Pro/Ultra售价:苹果这涨幅并不激进
- iPhone Ultra初期产能极低:国行开售时间延期!首批优先供应美国
- 革命性设计!宏碁Vero 16笔记本免工具换电池换SSD、CPU也能升级
- 别再被忽悠了:Windows缩略图不保存用户隐私 微软没那么坏
- 赶在发布会前!运营商晒iPhone 18 Pro/Ultra售价:苹果这涨幅并不激进
- 剑圣也挡不住黑客《鬼武者 剑之道》刚解锁就遭破解 views+
- 重回主场!北京国安来势汹汹,大连英博需捍卫主场荣耀! views+
- 官宣破产!恒大足校仍坚挺:7 views+
- 健康照明告别概念包装 欧普照明发布动态人工光产品技术标准 views+
- 炸裂!许家印被前员工爆出猛料! views+
- 未来国门!22岁李昊获中超官方表扬,连续5轮零封+70次扑救 views+
- “科普之光”重装出阵 30天网络展播再掀科普新高潮 views+
- 主力Mac空间告急 别慌铁威马有办法 views+
- 开学老三件涨破两万 家长直呼吃不消:这套千元内AI新三件套悄悄火了 views+
- 国安挑战大连英博!曾留洋德甲的新星有望联赛首秀,以官宣为准 views+