Appearance
上下文窗口
什么是上下文窗口
上下文窗口是 AI 模型一次可以处理的最大文本量。把它想象成模型的"工作记忆" - 它决定了模型在生成响应时可以考虑多少对话和代码。
| 大小 | Token | 大约单词数 | 使用场景 |
|---|---|---|---|
| 小 | 8-32K | 6000-24000 | 单个文件、快速修复 |
| 中 | 128K | 96000 | 大多数编码项目 |
| 大 | 200K | 150000 | 复杂代码库 |
| 超大 | 400K | 300000 | 整个应用程序 |
| 巨大 | 1M | 750000 | 多项目分析 |
高效管理上下文
哪些计入上下文
- 你当前的对话 - 聊天中的所有消息
- 文件内容 - 你分享的任何文件或Taiwe助手已读取的文件
- 工具输出 - 执行命令的结果
- 系统提示 - Taiwe助手的指令(影响最小)
优化策略
1、为新内容、新功能重新开始
/new - 创建具有干净上下文的新任务
2、策略性的使用 @ 引用
@filename.ts- 仅在需要时包含- 使用搜索而不是读取大文件
- 引用特定函数而不是整个文件
尽可能避免包含整个文件
3、启用自动压缩
Taiwe助手可以自动总结长对话,在设置-功能-自动压缩,她将保留重要上下文,减少token使用。
上下文窗口警告
| 警告信号 | 含义 | 解决方案 |
|---|---|---|
| "上下文窗口超出" | 达到硬限制 | 开始新任务或启用自动压缩 |
| 响应变慢 | 模型上下文处理困难 | 减少包含的文件 |
| 重复建议 | 上下文碎片化 | 总结并重新开始 |
| 缺少最近的更改 | 上下文溢出 | 使用检查点跟踪更改 |
上下文修剪策略
- 时间修剪:移除旧的对话部分
- 语义修剪:仅保留相关代码部分
- 层次修剪:维护高级结构,修剪细节