https://www.youtube.com/watch?v=s9Cs_RmkVPg这段视频介绍了 TanStack AI Code Mode ,一种优化应用中 LLM 工具调用的新方式。传统的工具调用方法往往效率不高,导致上下文占用高,并且需要多次往返服务器( 0:00 - 1:56 )。
Code Mode 的主要特性包括:
**基于 TypeScript 的执行:**
Code Mode 不再强制让 LLM 直接调用工具,而是让 LLM 生成 TypeScript 代码,然后在隔离环境中执行( 2:03 - 2:36 )。对于数据处理和计算这类任务,这种方式明显更快,也更准确( 2:38 - 3:14 )。
**性能提升:**
视频展示了在执行复杂任务(例如计算产品的平均成本)时,LLM 调用次数大幅减少(从 4 次降到 2 次),上下文使用量也显著下降(从 9.8KB 降到 1.7KB )( 2:38 - 2:50 )。
**Code Mode Skills:**
这一功能允许 LLM 保存并复用它生成过的有价值代码片段,把它们转化为可重复使用的技能。对于重复性任务,这会进一步提升性能( 4:35 - 5:43 )。
**广泛的能力:**
Code Mode 可以与多种后端集成,包括数据库,用于生成 SQL 和动态 UI 组件,从而动态处理复杂的报表任务( 5:48 - 7:10 )。
Jack Herrington 鼓励开发者克隆 TanStack AI 的 monorepo ,亲自探索这些功能,包括数据库集成和动态 UI 示例( 7:13 - 7:40 )。