都 2026 年了，为什么还有人觉得 AMD 比 Nvidia 更适合部署本地大模型？

# 19 我是指 nvidia spark 和 amd 395 是同类型产品。推荐 Jetson 太业余了，我就问你推荐的这些你买过吗

@strobber16 你在说什么😂

如果只是跑 LLM 的话我之前的 AMD 显卡都是直接装 lmstudio 就可以用了，不知道有啥区别。

395 去年买 128G 只要 1W 出头(现在估计不到 2W)，Nvidia 那个要 3W 多, 而且 395 可以装 Windows 玩游戏, nvidia 那个我记 CPU 用的是 ARM 的, 要我也选 AMD

就像苹果部署本地 LLM 一样，肯定也比不过 nv 吧？但是别人内存大啊，你 128GB 的 n 卡多少钱？苹果的多少钱？
在飞机上用苹果 64GB 跑个本地 LLM ，设置可以不联网愉快写代码
场景不同，你不能用你的场景套用别人的

能买部署就是豪气

@Bluecoda 真的会在飞机上去跑吗？

不要对别人怎么花的钱有执念

rocm 真的是死了🐎了，还有 AMD AI CPU 的 NPU 在 Linux 下没有驱动也是死了🐎了。驱动还得填表发邮箱申请。

统一内存 128G ，只有 amd 的是 Windows 系统，其他 nvida 是 ubuntu ，mac 是苹果系统，是我，我也选 amd 的

这场景太经典了，又想本地推理，又想着性价比，最后选这个不意外

不过话说回来，谁没交过学费啊

@babymonster ROCM 就是兼容 CUDA 来的 不过就是不好用 要折腾

人家本来是想打游戏，礼貌的问下，你还当真了

只适用于本地推理，又不需要自己训练，感觉区别不大吧

rocm 哪里有问题么，最近跑了个去码的任务还行

@afkool macmini 最高只能配到 64G 内存

显存大，虽然速度慢好歹能跑，用 vulkan 后端就行了,rocm 纯坑

跑 llm amd 有什么问题吗？ 一万多能买的 128G 的 nvidia 设备了？

一直不能理解个人跑本地模型的目的是什么。是搞开发？还是纯好奇想玩一玩。花两三万玩一下也太奢侈了吧。

@padeoe 对了大佬，多余问下，Mac 有啥好处？我看 395 ，哪怕屏幕素质高的笔记本 128G （比如玩家国度的幻）才 2 万。。Mac Studio 128G 都本着 4 万去了