rmrf

不过现在想想，能早点儿换，总比后面再换的好。

@hopeofsteadylife 。。。其实我这里 db 就是简单的 数据库 (database) 的意思，就是：比数据库检索数据还快。

@Geon97 还在替换代码，估计要更久了

@restkhz 是的，非常赞同，这个技术绝对是 2026 年非常非常有重量的，非常有想象力的做法。

想想一下，那些对速度有非常高要求的垂直场景：高速行驶的汽车、具身机器人的大脑的部分功能（或者小脑）

另外据我了解，中国的公司因为 llm 训练 gpu 技术不行，其实一直都在押宝 ASIC 芯片路线的。

今天看到 https://www.anuragk.com/blog/posts/Taalas.html 这里讲的：技术原理

1. 固定功能 ASIC 架构
Taalas 的芯片是一种固定功能 ASIC （专用集成电路），类似于 CD-ROM 、游戏卡带或印刷书籍——只能运行一个特定模型，无法重写。
他们将 Llama 3.1 的 32 层网络结构直接蚀刻到硅片上，模型权重成为物理晶体管，而非存储在内存中的数据。

2. 突破"内存墙"
传统 GPU 的瓶颈：GPU 需要从 VRAM/HBM 反复读取每一层的权重矩阵，进行计算后将中间结果存回内存。这种频繁的内存读写造成延迟和能耗（即"内存墙"或冯·诺依曼瓶颈）。
Taalas 的方案：输入向量直接流入第一层物理晶体管，通过他们发明的"魔法乘法器"（单个晶体管实现 4-bit 数据存储和乘法运算），电信号通过物理导线直接流入第二层，依此类推，直到生成最终 token 。无需外部内存来回搬运数据。

3. 芯片制造策略
他们设计了带有大规模通用逻辑门和晶体管网格的基础芯片。
针对特定模型，只需定制最上面的两层光罩即可，无需从头制造芯片。
为 Llama 3.1 8B 开发专用芯片仅用了 2 个月——在 AI 领域虽显漫长，但在定制芯片领域已属极快。

4. 内存使用
不使用外部 DRAM/HBM ，但包含少量片上 SRAM：
存储 KV Cache （对话的上下文窗口）
支持 LoRA 适配器进行微调

@catazshadow 这才开始，后面慢慢优化起来，很有想象力啊。

@renfei 是的，精度不行，但这推理速度，让很多事情很有想象力了。尝试了一下大段翻译，超级快，而且基本正确。

@hongye 多谢提醒，我去看看

@shenyankm [握手] ，今天在 Qoder 中尝试了一下新支持的 qwen3.5-plus ，体验也很好。而且只要 0.2x 。感觉大部分事情其实用 0.2x 就完全够用了。