一个网页几万字,真正要看的可能只是一个表单。整页 HTML 喂进去,导航、脚本、重复页脚很快占满上下文;直接截断又不放心,说不定下一秒要查的东西就在被切掉的那截里。
另一头的麻烦在统计上。同一次请求,流上可能报好几次 usage。界面把每份都加上,看到的数字就比实际报告的大。连接中途断开时如果只在正常结束时记账,另一部分消耗干脆不见了。
这两件事分开处理:工具返回的内容留一条回查路径,模型报的用量按请求和轮次记。
网页正文留多少
WebFetch 现在连原始 URL、最终 URL、跳转链、状态、耗时一起返回。最常见的误判很土:状态 200,打开是登录页。留着最终地址和跳转链,Agent 才有机会发现自己已经跑到别处了。
给模型的正文默认 8000 字符,范围 500–12000。HTML 默认去掉导航、script、style 这些噪声;要看入口的时候用 extract=true,单独取表单、链接、脚本引用和注释。原文存在会话的 .research/http 下,靠 body_file 回去读。
原文也有上限,目前最多读 2 MiB。所以返回的字段特意叫 observed_body_bytes 和 observed_body_sha256:响应超过上限时,这两个数对应的是“读到并保存下来的那一段”,不是整个响应。摘要被截短、原文没读完,是两件事,各有各的标记。
出口也得钉死。代理配置坏了就自动直连,看着像变健壮了,做研究时反而添乱:前后两次响应不一样,到底是参数生效了,还是换了出口?现在配置错就报错。Shell 和 HTTP 工具按显式代理、显式 CA 走;Windows 上还要认清楚实际跑的是 PowerShell 5.1,别把命令解析错误当成目标返回的东西。
40、65、65
一次请求先后报了三份输出用量:40、65、65。如果是累计快照,最后就是 65。逐条相加会变成 170。
收到的累计值 40 65 65
本次增加 40 25 0
usageDelta 对 input、output、cache read、cache write 分别留本次请求见过的最大值,只把增加的部分交给观察器。重复的快照不会再加一遍,数值临时回退也不会倒扣。
这里有个前提,得写在适配层:传进来的必须是累计值。新 provider 如果给的是每块增量,先在适配层转成累计,不能直接套这个算法。字段都叫 usage,不代表口径一样。
每轮有自己的观察器,子任务单独记。汇总旧会话时要照顾原来的累计快照,别让新轮次的记录和旧 activity 又加一遍。缓存读取单列出来,方便看长上下文有没有复用;真要核账,还是得按 provider 的计费口径算。
断流和重启
usage 是先交给观察器、再往外传的。所以消费端中途停掉,已经收到的用量仍然留得下来。反过来,provider 还没发最后一份 usage 就断了,那一段只能缺着——从半句文本反推准确数值,做不到。
结束状态也收紧了。流读到 EOF 不能说明模型正常结束,有些适配器还会在 EOF 时补一个结束事件。包装层要求拿到实际的 StopReason,缺了就返回 ErrIncompleteRun;非流式调用同样检查。
服务重启是另一种遗留:数据库里还挂着 running 的执行和轮次,会改成 interrupted,轮次原因写 service_restart。下次打开会话,至少知道上次停在哪,而不是一直显示“运行中”。要不要续、从哪一步续,是另外一件事。
这些数字说明的是程序收到了什么。跟账单对不对得上,还得看 provider 怎么算。
相关代码
对应版本:c888078。
agent/http_observation.go— 有界正文、结构提取、代理与原文保存agent/http_observation_test.go— HTTP 观察回归测试agent/model_meter.go— 累计 usage 差分与结束原因检查agent/host_tools.go— 宿主机工具环境server/conversation_turns.go— 轮次运行与计量db/conversation_turns.go— 轮次持久化server/ctf_execution.go— 服务启动时修正未结束的执行与轮次