我自己的电脑是 5070Ti，总感觉跑一些模型算力不够

h100 呗，dpsk 官方的推荐配置都是这个

@wander555 哥这个太贵了吧 玩不起啊

是算力问题吗？我感觉显存不够用。

可以租算力玩啊，买卡肯定是不经济的，你又不能 7*24 用它的算力

@mqnu00 是的 好像只有 16G

@foolishcrab 好像也是 有没有推荐租用的平台

本地的统一当玩具

....跑个 27b 不错了

5070Ti 就玩 Qwen3.6-35B-A3B

@miludeerKay 哈哈哈哈哈

兄弟，不是算力不够，是你的钱不够

不要谈感觉,直接去看系统资源使用,CPU 如何,GPU 如何,内存如何,显存如何,磁盘 IO 如何,这些细节分享出来才是有效的。

你这是游戏显卡，买 H800

我是 u7 265k+5060ti(16g)，只能跑玩具模型，消费 pc 根本玩不了本地部署，老实租算力吧

不是算力的问题，是显存太紧张了，只能跑个 7b 左右的才能达到每秒 70-100tok 的速度，跑更大模型受限的情况瓶颈基本全在 PCIe 带宽和显存上。

真要横向比较的话，我自己的 36G 的 MacBook Pro 能跑 qwen3.6035b-a3b 模型，每秒能到 30token ，但长上下文直接把内存撑爆死机；相比我的 5060Ti 只能直接跑小模型，或者 CPU 混合计算下利用 64G 的 RAM 能以很慢的速度跑很大的模型也不会爆内存死机。总之各有各的瓶颈，你得知道自己的硬件瓶颈在哪里。

@andforce 确实 钱太少了哈哈哈

@junwind 兄弟 钱不够啊哈哈哈

@cwcc 研究研究 昨天玩了一晚上 回去接着玩

目前顶流满血可用状态（ 100tps 左右）你的资金要 200w 人民币以上，更小的模型你就往回减，32GB 显存你就搞个几十 B 的模型最多了，而且速度还不会太快

租 GPU 可以试试这个平台：aHR0cHM6Ly9zaG9ydHVybC5hdC85MHoyTw==