AMD:AI 9 HX 375 处理器在 LM Studio 中 Token 生成速度比英特尔酷睿 Ultra 7 258V 快 27%
栏目:广告资讯 发布时间:2024-10-31
本站10月30日消息,AMD刚刚发布了一篇博客,讲述了其RyzenAI300系列移动处理器在本地大语言模型(LLM)性能方面的突破。据称,锐龙AI9HX375处理器在LMStudio(一款用于本地下载和托管LLM的桌面应用,基于llama.cpp,允许用AVX2指令来进行CPU加速)进行了测试,相比英特尔酷睿Ultra7258V更快。AMD在此次测试中使用了MetaLlama3.2的1b和3b模型、微软Phi3.14kMiniInstruct3b模型、谷歌Gemma29b和Mistral的Nem

本站 10 月 30 日消息,amd 刚刚发布了一篇博客,讲述了其 ryzen ai 300 系列移动处理器在本地大语言模型(llm)性能方面的突破。

据称,锐龙 AI 9 HX 375 处理器在 LM Studio(一款用于本地下载和托管 LLM 的桌面应用,基于 llama.cpp,允许用 AVX2 指令来进行 CPU 加速)进行了测试,相比英特尔酷睿Ultra 7 258V 更快。

AMD 在此次测试中使用了 Meta Llama 3.2 的 1b 和 3b 模型、微软 Phi 3.1 4k Mini Instruct 3b 模型、谷歌 Gemma 2 9b 和 Mistral 的 Nemo 2407 12b 模型,其中英特尔平台采用了8533 MT/s 内存,而 AMD 平台则为 7500 MT/s。

如图所示,AI 9 HX 375 上述五个大模型的测试中都比 Ultra 7 258V 更快,无论是速度还是开始输出文本的时间,优势最大时领先幅度达到了 27%。

本站提醒,英特尔 Ultra 7 258V 处理器与 HX 375 并不完全对等,其中 258V 属于中高端产品,而HX 375 属于旗舰型号,AMD 直接对比似乎有点不公平。

当然,LM Studio 同样支持GPU 加速功能,而且 LM Studio 还支持 Vulkan API 进行 GPU 加速。在启用 GPU 加速后,AI 9 HX 375 比不使用 GPU 加速时快了 20%。


# 处理器  # 谷歌  # ai  # Token  # llama  # 英特尔  # 更快  # 本地下载  # 微软  # 达到了  # 测试中  # 采用了  # 不公平  # 都比  # 则为 


相关文章: 宫崎英高称魂类游戏并非创新!只是设计理念满足玩家需求  Intel院士解释Wi-Fi 8好处:同位置比Wi-Fi 7速度更快更稳  凝光前期圣遗物选择指南:紫色套装全解析  小米OPPO等宣布支持2026年国家补贴 最高补500元!  永劫无间核心机制与战斗全攻略:从入门到精通的博弈艺术  化槽点为卖点,这些品牌是懂吸睛的  三星Exynos 2600 GPU路线曝光:Xclipse 960登场,全自研已在规划中  看看今年35℃的立秋品牌海报!  耐用折叠屏手机推荐:三星GalaxyZ TriFold让创新形态经得起时间考验  LG 将发布基于 AI 技术的新型游戏显示器:UltraGear evo  骁龙8 Gen 5全面对比8s Gen 4 前者跑分近300万分!  腾讯跨端开源框架 Kuikly 能力、生态再升级  DDR5、HBM等芯片已全面暴涨 仅剩DDR3、SLC及NOR三种还在洼地  消息称三星正研发"阔折叠"手机,4:3比例对标苹果iPhone Fold  ColorOS 16十二月体验升级分批推送 最晚31号完成  ChatGPT 移动端更新:支持自定义“思考时间”切换功能  美国法官叫停得州App Store年龄验证法案:缺乏必要性  vivo X300 Pro获CNMO年度评选“全焦段影像王者”  Hyprland 0.53 发布  耐用折叠屏手机推荐:三星GalaxyZ TriFold何以重塑旗舰耐用性标杆?  黄牛卖1万!小米17 Ultra徕卡版火了  10000mAh电池的手机 被荣耀给做出来了  稚晖君发布全球最小全身力控人形机器人“启元 Q1”  2nm时代来了!三星放弃4nm工艺:全力推进2nm制程  西风显卡展出AMD RX6000 GPU成堆的“尸体”!号称从不拒保  字节 Trae 发布《2025 年度产品报告》  用户吐槽RTX 5090插线难 官方回应:接口偏移是设计的一部分  元旦必备!鸿蒙版大众点评全面焕新,本地生活“全能选手”上线!  紧跟时事!《逃离鸭科夫》更新:硬盘涨价 可攻击杰夫  要求下架国产游戏?《咒术回战》官方重拳打击侵权山寨手游  存储涨价有多疯!DRAM报价翻了七八倍 一个内存条涨超1000元:涨价还没停呢  Liquid AI 最新实验性模型 LFM2-2.6B-Exp 发布  日本2025年下半年二手手机市场:iPhone占64.8%  鸿蒙版今日头条安装量突破2000万!新增创作中心、碰一碰和隔空传送  传荣耀Magic8 mini线下盲订已开启 天玑9500加持?  外媒评《仙剑奇侠传四:重制版》:高度借鉴《光与影:33号远征队》!  海尔智家APP升级瞄准智能家居第一入口  火焰穿刺战技解析:撕裂战场的双重烈焰舞步  源 Yuan 3.0 Flash 基础大模型开源发布  霍雨浩战斗系统全面攻略:机制、技能与团队搭配  “玩家根本不想看教程!”日本游戏界大佬激烈讨论  2499元!网友自制跑分最高LCD手机,这配置你敢买吗?  都是超大巨无霸电池 荣耀Power2和一加Turbo 6你选哪款?  动物园火了,品牌坐不住了  台积电2nm正式量产!你猜第一家首发是谁  Arch Linux 官网再度被 DDoS 攻击,目前仅支持 IPv6 访问  思特威发布高端5000万像素CMOS:SC525XS 28nm工艺  谷歌母公司 Alphabet 斥资 47.5 亿美元收购 Intersect,加速 AI 和数据中心扩张  Switch2英国发售半年 销量超WiiU等三款主机生涯总和  新年解锁高帧体验!华硕RTX50系列显卡让游戏更尽兴 


相关栏目: 【 广告资讯37196 】 【 广告推广143353 】 【 广告优化89630