升级 m2 的内存稳定吗？

最近想本地折腾下 llama3:70b ，发现 32g 不够用。

问问各位大佬：

1. 升级内存，是不是能解决？

2. 升级内存靠谱吗？比如找个维修店

3. 能的话现在什么行情？ 32=》 64=》 128

icestraw

2024 年 6 月 5 日

是能解决

不靠谱，升不了

没有行情，也可以理解为比置换更贵

只能卖了再买

deplives

2024 年 6 月 5 日

Apple silicon 怎么升级内存？连 cpu 一起换？

InternetExplorer

2024 年 6 月 5 日

内存不是和 CPU 长在一起的么，要升级只能换个主板吧

waino

2024 年 6 月 5 日

@deplives
@InternetExplorer 不知道呀，看有视频直接可以重焊内存颗粒上去

lrigi

2024 年 6 月 5 日

不能跑不如买个 poe 之类的。等你真的能运行了 70b 可能会发现速度好慢，还不如运行 8b 的舒服

rockddd

2024 年 6 月 5 日

那都是 inter 的老机型，才能换内存颗粒

xcnick

2024 年 6 月 5 日

32G 内存本地可以跑 Qwen1.5-32B 模型，这个模型是 30B 规模下中文最优秀的模型之一

xayoung

2024 年 6 月 5 日

m 系列升不了的。目前能升的唯一方法是 cpu 和内存一起换，这样成本就非常高了。退一万步来说，即使能单独升你也敢升？内存和 cpu 连在一起的，风险非常高。

zhwq

2024 年 6 月 5 日

4bit 或 8bit 量化之后效果可能还不如 8G 的

Phariel

2024 年 6 月 5 日

70B? 你想换多大的内存？ 128G 也不够吧你除非要跑很重的 quantized 版本你本地能跑个 13B 已经可以了

crokily

2024 年 6 月 5 日

@xcnick 请问这个有什么测试的榜单吗，我一直很好奇 hugging face 上的中文化 llama3 和 qwen 哪个效果更好

bzw875

2024 年 6 月 5 日

![Apple M1 chip]( https://en.wikipedia.org/wiki/File:Mac_Mini_M1_chip.jpg)
苹果 M2 芯片的内存是和 CPU 焊接在一起，个人理论上换不了，台积电有能力换

xcnick

2024 年 6 月 5 日

@crokily 大模型的榜单仅作为参考，不能作为评判的唯一标准。对于中文任务来说，国产大模型比汉化 llama 有先天优势，训练数据集中中文的比重更大

7lQM1uTy635LOmbu

2024 年 6 月 5 日

@waino #5 原理上可以换，有人成功过，但报废率太高，量产不了

pelloz

2024 年 6 月 5 日

别折腾自己的小本子了，搞个服务器，或者工作站，甚至就简单配一个主机，内存随便你加，便宜得很

waino

2024 年 6 月 5 日

@pelloz 攒个机大概多少预算，比如能运行 llama3:70b 这类大模型

这是一个专为移动设备优化的页面（即为了让你能够在 Google 搜索结果里秒开这个页面），如果你希望参与 V2EX 社区的讨论，你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://study.congcong.us/t/1046951

V2EX 是创意工作者们的社区，是一个分享自己正在做的有趣事物、交流想法，可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.