Skip to content

上下文窗口 ​

什么是上下文窗口 ​

上下文窗口是 AI 模型一次可以处理的最大文本量。把它想象成模型的"工作记忆" - 它决定了模型在生成响应时可以考虑多少对话和代码。

大小Token大约单词数使用场景
小8-32K6000-24000单个文件、快速修复
中128K96000大多数编码项目
大200K150000复杂代码库
超大400K300000整个应用程序
巨大1M750000多项目分析

高效管理上下文 ​

哪些计入上下文

  1. 你当前的对话 - 聊天中的所有消息
  2. 文件内容 - 你分享的任何文件或Taiwe助手已读取的文件
  3. 工具输出 - 执行命令的结果
  4. 系统提示 - Taiwe助手的指令(影响最小)

优化策略

1、为新内容、新功能重新开始

/new - 创建具有干净上下文的新任务

2、策略性的使用 @ 引用

  • @filename.ts - 仅在需要时包含
  • 使用搜索而不是读取大文件
  • 引用特定函数而不是整个文件

尽可能避免包含整个文件

3、启用自动压缩

Taiwe助手可以自动总结长对话,在设置-功能-自动压缩,她将保留重要上下文,减少token使用。

上下文窗口警告 ​

警告信号含义解决方案
"上下文窗口超出"达到硬限制开始新任务或启用自动压缩
响应变慢模型上下文处理困难减少包含的文件
重复建议上下文碎片化总结并重新开始
缺少最近的更改上下文溢出使用检查点跟踪更改

上下文修剪策略 ​

  1. 时间修剪:移除旧的对话部分
  2. 语义修剪:仅保留相关代码部分
  3. 层次修剪:维护高级结构,修剪细节

TaiWe - 教师AI工作助手