在LLM性能的竞争中,慧荣科技的Ryzen AI 9 HX 375处理器在LM Studio中表现出色,领先英特尔Core Ultra 7 258V高达27%。
慧荣科技声称,其最新的Strix Point APU在本地运行LLM时,似乎优于英特尔的Lunar Lake。在LM Studio的典型消费者LLM中,Ryzen AI 9 HX 375在CPU性能方面领先Core Ultra 7 258V高达27%。在延迟基准测试中,AMD在Mistral Nemo 2407 12b Instruct模型中报告了3.5倍的更低延迟。
有趣的是,虽然HX 375是Strix Point APU中速度最快的,但Core Ultra 7 258V并不是。旗舰的Core Ultra 9 288V提供了完整的30W TDP,这使得它与Strix Point更相匹配,因为后者可以配置高达54W。
总的来说,虽然不是每天都会在笔记本电脑上运行本地LLM,但谁知道未来会怎样呢?AMD表示,它正在积极努力让LLM,目前由于许多技术障碍而受限,对每个人来说都更加易于访问,这突出了像LM Studio这样的项目的重要性。