Claude Code Message Threads vs Prompt Caching: Verdict
← 返回今日版面来源
1 条消息线程在长时间代理会话中降低了延迟,但不能替代提示缓存,因为节省的是时间而非代币。Anthropic报告称,对于500k到1M个令牌的请求,首次令牌的到达时间中位数下降了约35%。代币使用量、代币率和限额保持不变,因此使用线程在长会话中提高速度,并保留提示缓存以降低成本。
消息线程在长时间代理会话中降低了延迟,但不能替代提示缓存,因为节省的是时间而非代币。Anthropic报告称,对于500k到1M个令牌的请求,首次令牌的到达时间中位数下降了约35%。代币使用量、代币率和限额保持不变,因此使用线程在长会话中提高速度,并保留提示缓存以降低成本。