研究札记 · 独立编辑项目
从简单的工具循环,到可恢复的长期代理
沿着公开工程文章,看上下文、协作、评测与权限怎样共同决定系统能做什么。
四条判断
编辑归纳 · 全部纳入文章 · 不随筛选变化
分析归纳
模型升级后,重新证明每一层辅助结构的价值
旧模型需要的 reset、冗长规则或领域子代理,可能在新模型上成为负担。稳定的持久状态、权限和验收边界仍要保留,具体辅助策略则交给任务评测重新选择。
依据
- ANT-004Scaling Managed Agents with stable interfaces开头与 Conclusion正文核对原文:Scaling Managed Agents with stable interfaces(外部链接) ↗
- ANT-038The new rules of context engineering for Claude 5 generation modelsUnhobbling Claude正文核对原文:The new rules of context engineering for Claude 5 generation models(外部链接) ↗
- ANT-025Building effective AI agentsCombining and customizing正文核对原文:Building effective AI agents(外部链接) ↗
分析归纳
代理边界跟着信息依赖走
独立搜索适合并行,连续推理和共享数据较多的任务可能受益于同一循环。部署决策应比较完成质量、交接损耗、延迟和总任务成本,而不是代理数量。
依据
- ANT-021How we built our multi-agent research systemBenefits of a multi-agent system正文核对原文:How we built our multi-agent research system(外部链接) ↗
- ANT-045Building agents: When to fold subagents into your main agent loopUsing an agent loop with progressive disclosure正文核对原文:Building agents: When to fold subagents into your main agent loop(外部链接) ↗
分析归纳
质量是整套系统的性质
一次得分包含模型、工具、资源、状态管理和产品配置。资源限制、清理历史或改一行提示,都可能改变结果;因此结论需要带上评测条件和故障边界。
依据
- ANT-008Infrastructure noise in agentic coding evalsHow this affects measurement正文核对原文:Infrastructure noise in agentic coding evals(外部链接) ↗
- ANT-003An update on Claude Code quality reports三项问题正文核对原文:An update on Claude Code quality reports(外部链接) ↗
- ANT-190A statistical approach to model evaluationsRecommendation #2–5正文核对原文:A statistical approach to model evaluations(外部链接) ↗
分析归纳
长期自主运行,要有可恢复的证据与受控的行动范围
持久会话让任务能恢复,原始记录让记忆能纠错,沙箱与凭据外置约束可达损害。它们共同支撑长期执行,但并不构成无人监督或零风险的证明。
依据
- ANT-004Scaling Managed Agents with stable interfacesRecovering from harness failure;The security boundary正文核对原文:Scaling Managed Agents with stable interfaces(外部链接) ↗
- ANT-015Making Claude Code safer with sandboxingSandboxing;Claude Code on the web正文核对原文:Making Claude Code safer with sandboxing(外部链接) ↗
- ANT-246The components of agent memoryDreaming can correct memory正文核对原文:The components of agent memory(外部链接) ↗
领域与年份版图
随当前范围统计 · 点击即筛选文章
当前范围共 189 篇独立文章。一篇文章可同时归入多个领域,因此领域计数之和(339)大于文章数;年份计数每篇只计一次。只确认月份的文章按已确认年份计入,未确认年份的单列“日期未知”。
| 领域 | 2021 | 2022 | 2023 | 2024 | 2025 | 2026 | 未知 |
|---|---|---|---|---|---|---|---|
| 基础设施与分布式系统 | |||||||
| 代理架构与协作 | |||||||
| 上下文与记忆 | |||||||
| 工具、技能与接口 | |||||||
| 评测与可靠性 | |||||||
| 安全、权限与隐私 | |||||||
| 软件工程与交付 | |||||||
| 性能与成本 | |||||||
| 可解释性与形式验证 |
跨文取舍
编辑归纳 · 全部纳入文章 · 不随筛选变化
每组取舍对照多篇文章的工程选择:收益、代价与适用条件并列,判断为编辑归纳,不把不同任务上的架构选择写成单向替代。点击证据会在下方索引中打开对应文章。
01 灵活自主,还是可预测的固定流程
收益
模型自行决定步骤,能应对事先无法列出的任务路径和新环境。
代价
更多回合、延迟和累积错误;复杂框架也可能遮蔽真实提示与执行路径。
- 适用条件
- 路径明确的任务先用简单工作流;开放问题再增加自主循环,并保留终止、验证和权限边界。
- 判断
- 架构复杂度应由任务结果证明。模型升级后,原来有效的补偿机制也需要重新评估。
支持文章 3 篇
- ANT-025Building effective AI agentsWhen (and when not) to use agents;Combining and customizing
将固定工作流与自主代理按任务性质区分,并要求复杂度带来可测收益。
正文核对原文:Building effective AI agents(外部链接) ↗ - ANT-004Scaling Managed Agents with stable interfaces开头;Conclusion
上下文重置在较新模型上失去必要性,稳定接口容纳不同 harness。
正文核对原文:Scaling Managed Agents with stable interfaces(外部链接) ↗ - ANT-038The new rules of context engineering for Claude 5 generation modelsUnhobbling Claude;Applying this to your context
特定新模型上删去大量提示约束,仍保留重要约束和领域偏好。
正文核对原文:The new rules of context engineering for Claude 5 generation models(外部链接) ↗
02 并行探索,还是共享上下文
收益
独立子代理扩大并行搜索容量,隔离嘈杂材料和局部探索。
代价
重复输入、协调、汇总损耗和等待会增加成本;紧密依赖的任务可能在交接中丢掉事实。
- 适用条件
- 独立研究路径、清楚接口或独立验证适合拆分;共同数据和连续推理较多时,应比较单循环加按需技能。
- 判断
- 分工边界应跟随上下文依赖,而非团队组织图。两个方案可以同时存在。
支持文章 2 篇
- ANT-021How we built our multi-agent research systemBenefits of a multi-agent system;Production reliability
内部研究评测有收益,但报告多代理约用普通聊天 15 倍 token,明确不适合强共享上下文场景。
正文核对原文:How we built our multi-agent research system(外部链接) ↗ - ANT-045Building agents: When to fold subagents into your main agent loopUsing an agent loop with progressive disclosure;Task-completion evals
若干企业案例合并领域子代理后更好,同时保留独立并行、验证和权限分工。
正文核对原文:Building agents: When to fold subagents into your main agent loop(外部链接) ↗
03 压缩与记忆的效率,换信息保真和维护成本
收益
摘要、进度文件与跨会话记忆让长期任务继续推进,避免每次从头读取全部材料。
代价
压缩不可逆,错误笔记会被反复信任;离线整理耗算力,有延迟,知识表示还可能膨胀。
- 适用条件
- 保留可回查的原始记录,明确什么是观察、猜测与已验证规则;按任务和变化频率决定整理节奏。
- 判断
- 存下来的文字需要可验证的来源与更新机制。更多记忆不自动等于更好的长期表现。
支持文章 3 篇
- ANT-017Effective context engineering for AI agentsCompaction;Structured note-taking
压缩可能遗漏后续才重要的信息,持久笔记用于跨窗口恢复。
正文核对原文:Effective context engineering for AI agents(外部链接) ↗ - ANT-012Effective harnesses for long-running agentsIncremental progress;Testing
进度文件与 Git 需要实际测试支撑,不能把完成自报当验收。
正文核对原文:Effective harnesses for long-running agents(外部链接) ↗ - ANT-246The components of agent memoryDreaming can correct memory;Thinking backward, looking forward
原 transcript 可用于纠错;wiki 并非始终有效,持续维护仍需成本。
正文核对原文:The components of agent memory(外部链接) ↗
04 减少审批打断,同时限制损害范围
收益
预设文件、网络和凭据边界,让代理在允许范围内持续工作,减轻审批疲劳。
代价
环境配置、代理服务和例外处理增加维护成本;分类防线仍存在误拒与漏检。
- 适用条件
- 将真正凭据与不可信执行环境分离;将动作权限、内容分类和人工决策按各自威胁模型设计。
- 判断
- 内容过滤限制回答的内容,动作审批检查是否获得授权,环境隔离限定能触达什么。三者必须各自验证,任何一层的效果都不能证明另一层安全。
支持文章 4 篇
- ANT-015Making Claude Code safer with sandboxingSandboxing;Claude Code on the web
同时约束文件和网络,并用外部 Git 代理保管敏感凭据。
正文核对原文:Making Claude Code safer with sandboxing(外部链接) ↗ - ANT-191Next-generation Constitutional Classifiers: More efficient protection against universal jailbreaksNew approaches;Conclusions and further research
内容安全分类器以廉价筛查和少量高成本复审平衡吞吐、误拒和漏检,不能推导动作授权效果。
正文核对原文:Next-generation Constitutional Classifiers: More efficient protection against universal jailbreaks(外部链接) ↗ - ANT-005How we built Claude Code auto modeResults;Design decisions
在 3 月发布文章所述配置中,动作分类器只读取用户消息和工具调用;0.4% 良性误拒和 17% 真实越权漏检来自各自评测集,不能替代高风险人工审批。
正文核对原文:How we built Claude Code auto mode(外部链接) ↗ - ANT-002How we contain Claude across productsThree types of risk, three components of defense;Patterns for containing agents
概率性模型防线需与环境边界互补;不同产品在隔离、可用能力和监督要求之间取舍。
正文核对原文:How we contain Claude across products(外部链接) ↗
05 降低 token 与延迟,还是保留完成任务的能力
收益
稳定前缀缓存、合适推理预算和有选择的上下文处理降低长会话成本。
代价
随意切换工具或模型会破坏缓存;过度清理历史或压低输出可能损害质量,重试又抵消节省。
- 适用条件
- 将缓存命中、成本和最终任务质量一起观察;对模型、会话状态和提示改动分别验证。
- 判断
- 成本优化必须通过任务完成质量验收。单次调用更便宜,不能直接推出整个任务更经济。
支持文章 2 篇
- ANT-042Lessons from building Claude Code: Prompt caching is everythingLay out your prompt for caching;Compacting without breaking the cache
缓存依赖完全匹配的前缀,压缩调用复用父请求前缀可降低额外开销。
正文核对原文:Lessons from building Claude Code: Prompt caching is everything(外部链接) ↗ - ANT-003An update on Claude Code quality reportsA caching optimization;A system prompt change
一次产品实现错误反复清理推理历史;减少输出的提示在更广评测上出现退化。
正文核对原文:An update on Claude Code quality reports(外部链接) ↗
06 更多评测资源,换稳定测量还是改变被测能力
收益
重复采样、题目配对和合理资源余量可降低噪声,减少偶然故障。
代价
额外运行消耗预算;过大的资源上限也会允许另一类解法,改变比较对象。
- 适用条件
- 报告题级方差、资源下限与硬上限、执行框架和时间预算;只比较条件匹配的结果。
- 判断
- 分数是模型、harness 与环境共同产生的测量。小幅领先需要与统计不确定性和基础设施差异一起看。
支持文章 2 篇
- ANT-190A statistical approach to model evaluationsRecommendation #2–5
题目聚类、重复采样、配对差异与检验功效影响统计结论。
正文核对原文:A statistical approach to model evaluations(外部链接) ↗ - ANT-008Infrastructure noise in agentic coding evalsHow we got here;How this affects measurement
同模型与 harness 的资源配置极端差达到 6 个百分点;1x–3x 的成绩波动不显著。
正文核对原文:Infrastructure noise in agentic coding evals(外部链接) ↗
07 更强扩展性,换分布式成本与迁移约束
收益
把状态外置、采用可独立扩容的服务与按需数据访问,支撑大量持续在线的代理和 CI。
代价
远程接口、状态存储和迁移更复杂;运行费用可能上升,定制源码系统还牺牲 Git 兼容及离线能力。
- 适用条件
- 先用真实吞吐和积压证明瓶颈;区分巨型单体仓库、长期会话和普通项目各自需要的状态边界。
- 判断
- 代码生成变快可能将瓶颈推向验证与交付,但 Anthropic 的内部规模和预算不能成为所有项目的默认架构前提。
支持文章 3 篇
- ANT-001Redesigning source control at AnthropicGrowing our monorepo;Contributing to the wider ecosystem
Scion 建立在始终在线客户端和巨型 monorepo 假设上,作者明确不适合作为通用 Git 替代。
正文核对原文:Redesigning source control at Anthropic(外部链接) ↗ - ANT-056Agentic coding is straining CI. Here’s how we scaled test impact analysis at AnthropicThe redesign;What I would do differently
测试选择服务将状态移到进程外的内存存储并写 journal,支持横向扩展,但增加运行成本;正文未展开持久化保障。
正文核对原文:Agentic coding is straining CI. Here’s how we scaled test impact analysis at Anthropic(外部链接) ↗ - ANT-004Scaling Managed Agents with stable interfacesDon’t adopt a pet;Decouple the brain from the hands
持久会话独立于可失败的 harness 和执行环境。
正文核对原文:Scaling Managed Agents with stable interfaces(外部链接) ↗
时间演化
编辑归纳 · 全部纳入文章 · 不随筛选变化
时间段依据文章公开发布日期,表示公开讨论的顺序,不代表公司内部采用或产品上线时间。
2024
建立简单架构与可测量的基线
- 此前
- 把一次模型回答和一个总分当作应用能力,容易忽略任务路径与测量误差。
- 变化
- 公开方法同时强调按任务区分工作流与代理,以及用误差、配对比较和功效分析解释评测。
- 驱动
- 开发者需要知道复杂度是否真的换来收益,而非只看到新框架或更高均分。
- 判断
- 先确定目标、基线和验证方式,仍是后来长期代理系统的可用起点。
- 边界
- 这是两条方法线索的并置,不能据此声称公司当年已统一采用某一平台。
支持文章
- ANT-190A statistical approach to model evaluationsRecommendation #1–5
提供统计测量方法。
正文核对原文:A statistical approach to model evaluations(外部链接) ↗ - ANT-025Building effective AI agentsWhen (and when not) to use agents;Combining and customizing
复杂度按任务需要逐步增加。
正文核对原文:Building effective AI agents(外部链接) ↗
2025 · 06—11
从一次回答扩展到跨会话推进
- 此前
- 一次上下文内的计划无法保证几个小时或多个窗口之后仍能恢复任务。
- 变化
- 研究代理采用独立上下文和持久计划;上下文工程管理信息进入时机;编码 harness 用初始化、进度文件和测试衔接会话。
- 驱动
- 长任务的状态丢失、信息污染、重复探索和过早宣布完成开始成为主要故障模式。
- 判断
- 长期任务需要可恢复的工作状态与外部验证,单靠更长提示并不充分。
- 边界
- 研究搜索与全栈应用示例的任务结构不同;其中的多代理结构不自动适合所有代码工作。
支持文章
- ANT-021How we built our multi-agent research systemArchitecture overview;Long-horizon conversation management
主代理计划和子代理上下文分工。
正文核对原文:How we built our multi-agent research system(外部链接) ↗ - ANT-017Effective context engineering for AI agentsContext engineering for long-horizon tasks
比较压缩、笔记与子代理。
正文核对原文:Effective context engineering for AI agents(外部链接) ↗ - ANT-012Effective harnesses for long-running agentsEnvironment management;Testing
跨窗口进度与端到端测试。
正文核对原文:Effective harnesses for long-running agents(外部链接) ↗
2025 · 10—2026 · 05
区分内容、授权与执行边界
- 此前
- 逐次许可容易产生审批疲劳,单靠内容分类也无法界定代理能修改哪些资源。
- 变化
- 沙箱与凭据代理收窄可达范围;内容分类降低过滤成本;动作审批再检查用户授权,产品复盘把这些概率性判断与环境隔离组合。
- 驱动
- 更长执行时间放大越权与误操作风险,防线同时承受误拒、漏检、配置和监督成本。
- 判断
- 内容过滤、动作审批和环境隔离解决不同问题,需要各自验证并相互补充。
- 边界
- 这是不同系统和产品的并行进展,并非同一分类器的版本链。真实越权动作 17% 漏检来自 52 例数据;环境隔离也不消除挂载目录内的损害。
支持文章
- ANT-015Making Claude Code safer with sandboxingTwo new sandboxing features
文件、网络和真实凭据的执行边界。
正文核对原文:Making Claude Code safer with sandboxing(外部链接) ↗ - ANT-191Next-generation Constitutional Classifiers: More efficient protection against universal jailbreaksNew approaches
内容安全分类器的级联与激活探针降低成本。
正文核对原文:Next-generation Constitutional Classifiers: More efficient protection against universal jailbreaks(外部链接) ↗ - ANT-005How we built Claude Code auto modeHow it works;Results;Design decisions
在 3 月发布文章所述配置中,两阶段动作审批在减少打断与漏检之间取舍,区别于内容过滤。
正文核对原文:How we built Claude Code auto mode(外部链接) ↗ - ANT-002How we contain Claude across productsPatterns for containing agents;Summary
按产品能力和用户监督能力选择环境边界,并报告自建组件及可见性的限制。
正文核对原文:How we contain Claude across products(外部链接) ↗
2026 · 02—04
质量问题需要沿整条系统链路归因
- 此前
- 排行榜差异或用户感知退化容易被直接归因到模型权重。
- 变化
- 资源配置实验展示基础设施会改变评测结果;产品复盘又将质量退化定位到默认 effort、上下文清理和系统提示。
- 驱动
- 代理会运行程序、跨回合积累状态,使环境和产品变更进入能力测量。
- 判断
- 同模型不等于同系统;评测环境、会话状态和发布配置都应成为记录的一部分。
- 边界
- 资源实验的量级不能推广到所有基准;4 月产品事故不代表 API 或推理层能力下降。
支持文章
- ANT-008Infrastructure noise in agentic coding evalsHow this affects measurement;What we recommend
区分资源可靠性与资源带来的新解法。
正文核对原文:Infrastructure noise in agentic coding evals(外部链接) ↗ - ANT-003An update on Claude Code quality reports三项问题及 Going forward
按产品变化定位故障,并要求更广评测与渐进发布。
正文核对原文:An update on Claude Code quality reports(外部链接) ↗
2026 · 04—07
稳定状态接口,可调整的模型辅助策略
- 此前
- 会话、harness 和沙箱耦合时,失败恢复及环境迁移受制于同一个容器;旧提示补丁也逐渐积累。
- 变化
- Managed Agents 分离三类组件;缓存设计围绕稳定前缀;更新模型后重新评估并删除过时约束。
- 驱动
- 模型能力变化快,而持久状态、独立恢复和成本控制的需求较持久。
- 判断
- 将可持久化状态和执行权限做成稳定接口,把模型特定的上下文策略保留为可调整实现。
- 边界
- 减少提示和取消 reset 的结果来自特定模型与评测;业务规则和安全约束并不因此失效。
支持文章
- ANT-004Scaling Managed Agents with stable interfacesThe session is not Claude’s context window;Conclusion
持久事件日志与可替换 harness 分离。
正文核对原文:Scaling Managed Agents with stable interfaces(外部链接) ↗ - ANT-042Lessons from building Claude Code: Prompt caching is everythingLessons learned
缓存是一项持续约束。
正文核对原文:Lessons from building Claude Code: Prompt caching is everything(外部链接) ↗ - ANT-038The new rules of context engineering for Claude 5 generation modelsThen and now;Applying this to your context
随模型更新精简旧指导。
正文核对原文:The new rules of context engineering for Claude 5 generation models(外部链接) ↗
2026 · 09—10
代理产出增长,把压力传到交付基础设施
- 此前
- 单进程测试选择和依赖大量镜像的源码访问在增长中反复获得短期缓解。
- 变化
- CI 服务将结果写入外部 journal 后横向扩展;Scion 将源码查询和稀疏读取做成服务。
- 驱动
- 内部测试、CI 任务和日合并量增长,使人类规模下的状态和访问假设承压。
- 判断
- 瓶颈会沿生产链路移动,扩容方案应由状态模型与工作负载决定。
- 边界
- 文章自报的增长率和优化量级是特殊组织条件;这是公开复盘时间,不是全部系统迁移的起止日期。
支持文章
- ANT-056Agentic coding is straining CI. Here’s how we scaled test impact analysis at AnthropicThe bumpy road;The redesign
测试选择服务将状态移到进程外的内存存储并写 journal,支持横向扩展,但增加运行成本;正文未展开持久化保障。
正文核对原文:Agentic coding is straining CI. Here’s how we scaled test impact analysis at Anthropic(外部链接) ↗ - ANT-001Redesigning source control at AnthropicPrinciples;Scaling Scion;Contributing
始终在线客户端、增量数据与可扩展服务,也明确通用适用性限制。
正文核对原文:Redesigning source control at Anthropic(外部链接) ↗
2026 · 10
重新按上下文关系决定是否拆代理
- 此前
- 每个部门或问题类型一个子代理,容易产生重复提示、交接损耗和局部评测。
- 变化
- 企业实践开始把紧密依赖的领域子代理折回主循环,用技能与工具按需提供专业能力。
- 驱动
- 较强模型能在同一循环中承担更多任务,而交接与治理的成本仍存在。
- 判断
- 2025 年独立研究的并行收益与 2026 年共享上下文的合并收益可以同时成立。
- 边界
- 逐个合并并用任务完成评测比较;独立探索、验证与权限分离仍然可能需要子代理。
支持文章
- ANT-045Building agents: When to fold subagents into your main agent loopHow to fold subagents;Task-completion evals
按共享上下文合并,每次改动检测任务回归。
正文核对原文:Building agents: When to fold subagents into your main agent loop(外部链接) ↗ - ANT-021How we built our multi-agent research systemBenefits of a multi-agent system
原研究系统本就将强依赖和共享上下文列为限制。
正文核对原文:How we built our multi-agent research system(外部链接) ↗
2026 · 11
从保存笔记,走向验证与维护记忆
- 此前
- 压缩和笔记可以延长工作,却无法保证写下来的规则正确或长期有效。
- 变化
- 记忆被拆为 transcript、笔记、知识表示和注入上下文;离线整理可回查原记录、纠错和重组。
- 驱动
- 跨 session 学习需要保留有效经验,同时处理过时事实、错误假设、并发覆盖和表示膨胀。
- 判断
- 记忆质量取决于可回查证据、维护和任务评测,不能只用存储数量或上下文长度衡量。
- 边界
- 本文 memory 排除权重学习与 compaction;wiki 在单文档检索上可能无收益,dreaming 也有计算成本与延迟。
支持文章
- ANT-246The components of agent memoryMemory notes;Dreaming can correct memory;Thinking backward, looking forward
给出跨会话记忆定义、纠错方法及失败边界。
正文核对原文:The components of agent memory(外部链接) ↗ - ANT-017Effective context engineering for AI agentsCompaction;Structured note-taking
此前已说明压缩的信息损失与持久笔记的作用。
正文核对原文:Effective context engineering for AI agents(外部链接) ↗
文章索引
随当前范围与筛选变化
“部分核对”的条目仅核对了正文关键段,未逐项查证的方法、数值与限制保留为原索引分析;展开条目可查看逐篇核对说明。只确认月份的日期按已知月份排序,不补造具体日期。
The components of agent memory
把会话记录、记忆笔记、知识表示与注入上下文分层,并用离线整理验证与维护。
展开分析与核对说明
- 问题
- 记忆应保留未来有用且经验证的信息,而非复制所有可即时读取的状态。
- 方法
- 对照无记忆基线;从错误中检验规则;对照原始记录纠错;结合wiki与检索;按文档分配单一写入者避免覆盖。
- 取舍
- 即时记录及时但打断任务;离线整理耗算力且有延迟;wiki可帮助跨文档推理,也可能大于原材料。
- 局限
- 小样本与任务相关收益不能推广为通用最优;错误注入可能跨会话传播,维护节奏仍待研究。
- 事实边界
- 按可复用架构、协作写入与评测方法纳入;不把个别游戏运行或内部评测当普遍因果结论。
- 证据位置
- Memory notes;Steering Claude to write memory;各离线整理章节;Thinking backward, looking forward。
- 来源
- 原始分类:代理记忆架构与评测
来源栏目:Engineering / Research
集合:纳入文章
发布日期:2026-11-06 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。 记忆指跨 session 留下的经验知识,排除权重学习和 compaction。Dreaming 通过原始 transcript 核对记忆;wiki 可能膨胀并产生错误,不能保证消除幻觉。
Project EVE: Claude plays MMORPGs
以游戏市场回放和实时团队任务研究长时代理执行、协作与可靠性。
展开分析与核对说明
- 问题
- LLM反应速度与局部可见性限制任务表现,软件层与独立验证会改变结果。
- 方法
- 将快速操作交给脚手架,经验写入可检索资料;比较不同脚手架;按误报约束评估仅见公开消息的监测器。
- 取舍
- 自动化补足速度,但开发期适应不等于新场景可靠;协作分工也可能产生单点故障。
- 局限
- 市场回放不模拟参与者反馈,收益不外推金融市场;对抗角色由实验指令指定,不证明自然倾向。
- 事实边界
- 纳入限于脚手架、审计与可靠性评价;不整理破坏协作或隐藏行为的操作方案。
- 证据位置
- Claude fleets in EVE Frontier;Can agents overcome poor reaction times;How do agents cooperate;Reflections;Footnotes。
- 来源
- 原始分类:长时多代理脚手架与可靠性评测
来源栏目:Research / Frontier Red Team
集合:纳入文章
发布日期:2026-11-06 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Progress on provable inference for large language models
FlashProve 用密码学证明将回复绑定到承诺权重,公开原型、验证器与 Lean 证明。
展开分析与核对说明
- 问题
- 用户不能仅凭回答确认服务方运行了指定模型;目标是低资源验证而不公开权重。
- 方法
- 离线权重承诺、事后批量证明;只证明激活的 MoE 专家,并分层流式搬运权重以适配单 GPU。
- 取舍
- 降低验证成本却增加证明开销;事后证明需重算且保证延迟,不能当作实时防护。
- 局限
- 仅研究原型;整数模型和贪心解码、1024-token 上下文;快速代码未获形式化保证,侧信道及架构隐藏不在保证内。
- 事实边界
- 文中约110 tokens/s及70–95倍GPU时间是特定基准结果,不是生产通用成本;证明来自指定模型不等于答案正确。
- 证据位置
- Our system: FlashProve;Engineering the system;Trustworthiness from formal verification;Limitations。
- 来源
- 原始分类:可验证推理与形式化验证
来源栏目:Research / Frontier Red Team
集合:纳入文章
发布日期:2026-11-02 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Make long-running agents faster with message threads
用消息线程避免每轮重复上传完整历史,面向长时间运行的代理。
展开分析与核对说明
- 问题
- 长上下文的重复传输拉高首 token 延迟;传输增量不等于缩减模型上下文。
- 方法
- 首请求发送完整对话并启动线程,后续只发送新消息及上一回复 ID;线程以内存加密保存,不写盘。
- 取舍
- 以短期服务端状态换传输效率;空闲五分钟过期后客户端需重发完整历史。
- 局限
- 模型每轮仍读取完整历史,token 用量不变;收益随上下文与活跃会话而异。
- 事实边界
- 作者报告 Claude Code 50万–100万 token 请求的中位 TTFT 约降35%;非所有场景保证。
- 证据位置
- How message threads works;Getting started。
- 来源
- 原始分类:会话传输与延迟优化
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-11-02 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。
Manage costs and demonstrate ROI for Claude Code on Google Cloud
将成本控制、遥测归因和实际交付指标连接成持续改进流程,具备可复用部署方法。
展开分析与核对说明
- 问题
- 单看每 token 价格或 PR 创建量不能判断价值;应对照任务成本及已交付成果。
- 方法
- 身份网关按用户/IdP组配置模型与限额;OTel 经 OTLP 到监控,资源属性标注成本中心,事件进入分区 BigQuery 表。
- 取舍
- 集中策略便于治理,但任意限额可能阻断高价值任务;详细日志须权衡敏感信息。
- 局限
- 创建 PR 不等于合并;模型和任务类别影响可比性;客户成效不是控制实验。
- 事实边界
- 网关组/组织上限是个人默认限额而非共享池;提示词日志需显式启用,不能把遥测直接等同 ROI。
- 证据位置
- Controls;Lever 1–3;Define your unit of work;Claude Code native telemetry。
- 来源
- 原始分类:成本治理与可观测性
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-10-27 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Discovering and exploiting vulnerabilities in critical, real-world software with Claude
以已披露修补的案例说明模型安全研究能力,并总结防御扫描平台经验。
展开分析与核对说明
- 问题
- 发现存量问题之外,也需减少新增缺陷;纳入依据是防御工程工作流。
- 方法
- 并行扫描、扫描器边际贡献衡量、动态覆盖跟踪、统一验证及风险分级,并将安全检查前移到PR。
- 取舍
- 多策略提高覆盖,但所有结果仍需验证并控制误报。
- 局限
- 案例不能推出任意目标均可成功;文章未给通用成功率或成本基线。
- 事实边界
- 本期补发现旧文,不计新发布;摘要只整理防御实践,不整理攻击链操作步骤。
- 证据位置
- What we learned;What this means for defenders;开篇协调披露说明。
- 来源
- 原始分类:防御性安全扫描与工程验证
来源栏目:Research / Frontier Red Team
集合:纳入文章
发布日期:2026-10-27 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Claude Duet Safety, Privacy, and Security
虽归公告栏目,正文实质解释个人代理的权限、隐私和凭据隔离架构。
展开分析与核对说明
- 问题
- 持续代办需要控制信息外传与高影响操作,而不能依赖模型自律。
- 方法
- 独立动作检查与消息分类器在模型外运行;凭据经代理注入,浏览器放在独立虚拟机并限制命令接口。
- 取舍
- 确认频率与审批疲劳需平衡;隔离凭据不消除页面文字注入风险。
- 局限
- 研究预览仍有误报漏报;未报告量化防护成功率,部分功能尚待上线。
- 事实边界
- 文内安全设计是作者描述,不是本次独立安全审计。
- 证据位置
- You approve important actions;Credentials and the browser;How we tested。
- 来源
- 原始分类:工程实践与评测
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-10-23 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Building agents: When to fold subagents into your main agent loop
针对企业把组织结构直接复制为代理结构的现象,提出按共享上下文逐步合并领域子代理,并用技能和工具保留专业能力。
展开分析与核对说明
- 问题
- 多层路由、摘要交接和局部评测会造成信息损失、延迟和责任分散;架构复杂度需要可测收益来证明。
- 方法
- 先建端到端评测,逐个把提示迁为技能、API迁为工具;重复运行并检查具体任务翻转,保留真正需要独立上下文或并行验证的子代理。
- 取舍
- 单循环减少交接损失,却需要严格管理上下文、触发描述和记忆;硬权限、预算及前置条件仍应由代码执行。
- 局限
- 客户约2倍速度提升是个案;合并曾破坏原本通过的配送流程,说明总分之外还需回归测试。
- 事实边界
- 不是反对所有子代理;作者明确保留验证、隔离和可并行任务,本表不将其改写成单代理必胜。
- 证据位置
- 正文组织失效模式、单循环机制、迁移步骤、团队贡献与工具,L36–151。
- 来源
- 原始分类:单代理与多代理架构迁移
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-10-22 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。 合并子代理的结论来自若干企业部署;正文仍保留独立研究、并行验证、上下文隔离和权限分工的适用性。
LLMs are making formal software verification feasible at a much larger scale
团队将既有模糊测试转成二进制层面的规格,让Claude生成证明、Rocq校验,报告覆盖123个库的239个入口。
展开分析与核对说明
- 问题
- 模糊测试只能搜索有限输入,而人工编写大规模证明成本高,规格本身也难定义。
- 方法
- 把带检查的程序编译为RISC-V,在形式化Linux/ISA语义下证明限定输入不会触发崩溃;发现问题后修补并重证,跨代理共享证明。
- 取舍
- 证明复用降低重复开销,但生成仍消耗大量token;允许改程序可解锁证明,也需防止删功能以投机达标。
- 局限
- 只覆盖单线程、静态链接、固定内存等假设及小于64MB输入;规格、语义和验证器仍是可信基础,不表示整个库无漏洞。
- 事实边界
- 1.8亿行证明、共享节省17%为作者测量;未重新校验证明。形式保证只对准确写明的定理和假设成立。
- 证据位置
- Turning tests into proofs;Proofs can be reused;Limitations 及脚注 6。本次未逐项复核附录 PDF。
- 来源
- 原始分类:自动形式验证与证明复用
来源栏目:Anthropic Research / Frontier Red Team
集合:纳入文章
发布日期:2026-10-22 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Red-Teaming Auto Mode: Improving Blocking Classifiers Against Malign Coding Agents
用对抗代理测试编码监控器,并比较补齐覆盖、可靠记录边界与代理式复审的改进。
展开分析与核对说明
- 问题
- 孤立上下文、未审核操作和不可靠角色边界可能让监控漏看真正风险。
- 方法
- 组合静态审查、轨迹回放和隔离环境在线评测;修复工具覆盖,转义并分隔记录,审核压缩摘要,引入可读环境的最终复审阶段。
- 取舍
- 更多上下文和全面审核提高召回,却增加延迟与注入面;快速前级节省成本也会漏放。
- 局限
- 信任监控器且不测试沙箱;部分攻击者获知监控细节,结果是2026年9月配置快照而非永久产品结论。
- 事实边界
- 作者 Alex Remedios、Simon Storf、Fabien Roger、John Hughes;表中 Guardian 为生产近似。延迟由输出速度估算,非端到端实测。
- 证据位置
- Methods;Results;Limitations;Discussion,L20–133。
- 来源
- 原始分类:阻断式监控工程与红队
来源栏目:Alignment Science Blog
集合:纳入文章
发布日期:2026-10-22 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。 2026 年 10 月发布文章评估 9 月监控配置快照;区分生产版本与 auto mode ++ / strict 实验变体。仅整理防御架构、覆盖与成本边界,不提供操作性攻击链。论文与外部实现未逐项核对。
Using Claude to reduce the attack surface of code
文章将防御目标从逐个找漏洞转向限制不必要的可达代码,检查默认配置、选项交互和过早执行路径。
展开分析与核对说明
- 问题
- 功能不断叠加可能让未启用或未认证的路径仍可执行,扩大未知漏洞可被触及的范围。
- 方法
- 三轮独立上下文分析入口与配置,动态追踪确认发现;默认行为补丁须通过原测试和黑盒回归,影响非默认配置则交人工判断。
- 取舍
- 减少可达面不等于消除漏洞;增加门控必须避免破坏合法功能和配置兼容性。
- 局限
- 25项目493项发现不是493个可独立利用漏洞;未给完整误报率、成本和复现数据。
- 事实边界
- 作者报告默认OpenSSH认证前可达代码减少约五分之一;比例不能外推为同等风险下降。
- 证据位置
- Methods、Claude’s findings、OpenSSH案例及Conclusion中的三轮流程。
- 来源
- 原始分类:攻击面缩减与配置验证
来源栏目:Anthropic Research / Frontier Red Team
集合:纳入文章
发布日期:2026-10-20 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
How the Claude Code team does code review
把代码审查的目标同时定义为发现缺陷和传播团队知识,再说明如何让代理、人工审批与持续集成共同承担工作。
展开分析与核对说明
- 问题
- 优化目标不是尽快批准,而是减少包括事故修复在内的总人力;大量低价值评论也会损害审查。
- 方法
- 提交前验证后再用新上下文审查;独立代理验证候选问题,按风险分级配置人工审批,并在合并队列复查、分阶段发布。
- 取舍
- 更强自动审查可以扩大覆盖,但反复循环会追逐旧代码问题;团队因此限制轮数、后续只看差异并记录噪声。
- 局限
- PR增加与回滚比例下降只是同期观察,不证明因果;知识传播仍较临时,自动熔断也尚未完善。
- 事实边界
- 作者报告6月至9月PR翻倍、回滚占比下降40%;没有把这些组织数据外推为普遍收益。
- 证据位置
- 正文目标、流程、风险分级、反馈评测与循环限制各节,L35–232。
- 来源
- 原始分类:AI 原生代码审查
来源栏目:Developer
集合:纳入文章
发布日期:2026-10-15 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Redesigning source control at Anthropic
面向海量在线代理,五个月从 Git 迁移 Scion。作者报告每日合并从约2500增至3万,基础设施 CPU/内存占用缩小约200倍。
展开分析与核对说明
- 问题
- 离线完整克隆及镜像维护成为瓶颈。将源码管理视为在线服务,而非每端持有完整仓库。
- 方法
- changeset 只记增量,内容寻址存储;递归派生索引;服务端计算与多层不可变缓存;稀疏按需检出。
- 取舍
- 牺牲离线能力、Git兼容性与通用性,换吞吐、缓存和独立扩容。
- 局限
- 高度定制且内部 token 预算特殊,不宜一般仓库照搬;CI 并发冲突、迁移全链路和人工把关仍重要。
- 事实边界
- 数字为作者内部报告,非独立复现。2026-10-15增补前人工作。
- 证据位置
- 正文 Growing our monorepo;Principles;How Scion works;Contributing,L40–145。
- 来源
- 原始分类:源码管理与分布式基础设施
来源栏目:Engineering
集合:纳入文章
发布日期:2026-10-13 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。 原链接现重定向至 https://www.anthropic.com/research/redesigning-source-control,保留索引时的来源栏目。 正文明确 Scion 只针对巨型 monorepo 和大量始终在线的代理;内部 token 预算异常充裕,不是一般项目弃用 Git 的建议。
Uber's CISO on building an insider threat program for AI
访谈提出将代理纳入类似内部威胁的持续监控体系,结合企业自身遥测与模型供应商的风险信号。
展开分析与核对说明
- 问题
- 模型可能被误导或超出职责,防护不能只依赖调用前授权,还需要及时发现异常并干预。
- 方法
- 由LLM网关建立访问边界,ADR收集实时事件并执行响应,再将新行为模式分析回馈到实时规则。
- 取舍
- 扩大可观测性有助判断风险,也涉及企业数据控制与监控负担;文章强调供应商访问仍需企业许可。
- 局限
- 多服务代理协商威胁模型和Safeguards接入ADR部分是展望;没有给出检出率或完整部署评测。
- 事实边界
- 作为应用安全架构观点纳入,采访中的未来设想不写成已部署事实。
- 证据位置
- 正文监控架构、优先事项与内部威胁类比的问答,L32–60。
- 来源
- 原始分类:代理运行时安全架构
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-10-13 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Building effective agent automations
以定期简报展示自动化代理的完整结构,核心不在定时触发,而在可恢复状态、去重、权限和失败处理。
展开分析与核对说明
- 问题
- 一次失败或不确定的发送结果不能让系统跳过未处理材料,也不能造成重复发布。
- 方法
- 为每个来源独立维护书签,使用发布账本去重;确认成功与消息ID后才推进状态,分离只读偏好和可写运行状态。
- 取舍
- 更严格的凭据代理、网络限制和预算边界提高可控性,却要求额外配置与故障分支。
- 局限
- 来源只读不意味着内容可信,提示注入仍可能污染简报和状态;不确定是否发布时必须保留待核验状态。
- 事实边界
- 这是可实现的设计指南,不是对任意自动化场景的可靠性保证;文中没有通用成功率。
- 证据位置
- 正文六部分架构、书签与账本、权限及预算说明,L35–232。
- 来源
- 原始分类:持久自动化与可靠状态
来源栏目:Developer
集合:纳入文章
发布日期:2026-10-08 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
How Block orchestrates Claude Fable across thousands of pull requests
Block介绍如何让高能力模型负责跨仓库迁移设计,较便宜模型承担编辑和测试,并把人工决策留在发布边界。
展开分析与核对说明
- 问题
- 大量PR和技术债让人工逐项协调难以扩展;但把所有工作交给最昂贵模型也不经济。
- 方法
- 用共享工作区协调多会话,对模型与effort做二维评测;把安全检查移到确定性接口,主干合并和生产发布保留人工双重批准。
- 取舍
- 分层路由节省常规任务成本,却增加协调、观察和模型选择复杂度;访问边界仍需默认安全的网络配置。
- 局限
- 千级PR和未降质量来自受访者早期报告,没有公开完整对照数据;自动选模仍在建设。
- 事实边界
- 本文为客户工程访谈,不把产品赞誉或经验判断提升为普适基准。
- 证据位置
- 正文迁移编排、模型效率、effort、Safeguards与组织知识,L34–77。
- 来源
- 原始分类:分层模型编排与迁移治理
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-10-08 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Launching an opt-in vulnerability-finding service for open-source software
文章介绍可选择加入的开源扫描服务,但其技术重点是报告生成、验证瓶颈和自动结果交付的取舍。
展开分析与核对说明
- 问题
- 发现速度超过人工复核容量,等待全部验证会延迟防御,直接交付又可能把误报负担转给维护者。
- 方法
- 生成自包含复现、原因说明、可行时的引入提交定位和候选补丁;保留人工CVD路径,同时提供主动选择的未人工复核通道。
- 取舍
- 更快、更频繁扫描换来维护者自行核验责任,严重性和威胁模型也可能被误判。
- 局限
- 97条高危/严重样本中85条达到CVD标准,其余主要为重复;这是选择性样本,不是全部扫描的总体精确率。
- 事实边界
- 因含实质流水线取舍与质量评估而纳入,注册和新服务公告部分不作为技术贡献。
- 证据位置
- Our vulnerability scanner中的报告结构、专家验证与限制。
- 来源
- 原始分类:漏洞扫描流水线与报告质量验证
来源栏目:Anthropic Research / Frontier Red Team
集合:纳入文章
发布日期:2026-10-08 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Claude Code in the cloud: a field guide to cloud sessions
通过四次实际会话说明如何把独立编码任务交给云端环境,以及哪些环境准备和验证条件决定它能否可靠完成。
展开分析与核对说明
- 问题
- 云端任务不能依赖开发者机器的隐含配置;独立会话必须得到可复现环境、明确范围和验收命令。
- 方法
- 每个会话使用隔离虚拟机、仓库和分支;配置初始化流程,把凭据留在代理边界外,并按依赖关系安排并行任务及合并顺序。
- 取舍
- 并行缩短等待,却增加资源消耗和集成工作;硬件、VPN、GPU或特殊数据要求可能仍需要本地或自托管执行。
- 局限
- 三个任务约61、65、72秒的例子不代表生产基准;虚拟机会回收,必须提交需要保留的成果。
- 事实边界
- 作者明确披露仓库及界面展示方式;网络设为None也不等于完全断开模型和Git所需连接。
- 证据位置
- 正文任务示例、环境准备、身份和网络边界、并行与本地选择,L35–全文结尾。
- 来源
- 原始分类:云端编码会话与并行执行
来源栏目:Developer
集合:纳入文章
发布日期:2026-10-06 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
How Comcast and Booz Allen use Claude Mythos to find exploit chains and secure their codebases
以两个防御团队的案例说明,模型可把代码、配置和权限中的局部弱点连成待验证的安全假说。
展开分析与核对说明
- 问题
- 漏洞发现速度提高后,瓶颈转向确认真实性、可达性、去重和修复归属,不能把每条发现当成可利用漏洞。
- 方法
- 保持跨组件上下文追踪假设,在运行应用验证可达性,再查根因、修复及历史利用迹象,并将证据交给责任团队。
- 取舍
- 更广覆盖提高候选数量,也增加人工验证压力;跨边界推理需要真实部署背景而非孤立源文件。
- 局限
- 涉及258系统、170M代码行及138仓库的数字是客户案例,未披露完整样本、误报率或对照方法。
- 事实边界
- 只概述防御方法和证据边界,不把供应商客户案例当作独立安全能力评测。
- 证据位置
- 正文Comcast发现与验证、Booz Allen跨系统追踪及后续工作,L32–64。
- 来源
- 原始分类:跨系统漏洞分析与验证
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-10-06 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
How Cresta turned CX expertise into an agent builder on the Claude Agent SDK
Cresta把客服领域经验封装成Conductor元代理,用通用Agent SDK执行开发工作,再用领域数据和评测管理所生成代理。
展开分析与核对说明
- 问题
- 难点不只是写首版提示,而是确定哪些业务步骤必须确定性执行、何处允许适应,以及上线后怎样持续改进。
- 方法
- 从历史会话建立蓝图,将需求和边界转为测试;分别评价产物、执行路径、质量和资源,在模型或框架升级时重跑同一任务集。
- 取舍
- 通用SDK减少基础执行框架投入,但领域控制平面、租户隔离、观测和验证仍由产品团队承担。
- 局限
- 部署时间减半及20/80工作比例为早期经验报告;未发布完整评测集、误差区间或架构实现。
- 事实边界
- 公司融资与CEO等宣传信息不进入技术解读;收益只按客户自报记录。
- 证据位置
- 完整正文元代理、确定性边界、评测、SDK分层及最佳实践表。
- 来源
- 原始分类:领域代理构建平台
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-10-05 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Getting started with Claude Code mods
通过上下文用量显示、危险命令预览和编辑回放三个插件,逐步解释如何扩展 Claude Code 的会话行为与界面。
展开分析与核对说明
- 问题
- 扩展需要在会话事件中观察、改写或接管处理,同时保留热重载后的状态。
- 方法
- 用 register 注册事件链,以 next 交回控制;把持久会话数据放入宿主 state,通过声明类型、运行时测试与插件市场完成交付。
- 取舍
- 可组合扩展提高灵活性,但事件顺序、界面尺寸和状态生命周期都需要显式处理;插件也继承宿主访问能力。
- 局限
- 危险命令预览只按文本分类,可被别名或脚本绕过,因此不是权限系统;第三方插件仍需信任审查。
- 事实边界
- 这是包含完整实现的开发教程,不按新工具新闻排除;没有报告通用性能收益。
- 证据位置
- 正文机制说明、Token Weather六步、Blast Radius、Replay Theater和四项习惯,L35–493。
- 来源
- 原始分类:可扩展代理界面与事件中间件
来源栏目:Developer
集合:纳入文章
发布日期:2026-10-01 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Agents you can coach: how Asana builds human-agent teams with Claude
Asana把代理放进已有任务关系图,赋予明确角色、访问范围和可审计活动,而不是另建一套孤立聊天上下文。
展开分析与核对说明
- 问题
- 多人协作需要区分谁能使用代理、谁能永久改变它,以及代理可以向当前请求者透露哪些信息。
- 方法
- 代理有效权限受触发者约束;只有管理员和编辑可更新长期记忆,其他反馈只作用于当前任务,工作步骤留在共享任务记录中。
- 取舍
- 共享知识减少重复解释,却需要治理记忆修改和跨用户泄漏;生成更多任务也可能使研发周期膨胀。
- 局限
- 正文是产品团队访谈,没有泄漏测试或效率对照;工程规划仍由人决定哪些自动生成事项进入周期。
- 事实边界
- 权限规则按Asana陈述记录,不等于本表独立验证了实现安全性。
- 证据位置
- 正文角色、访问、训练与使用分离、可见工作及三个案例,L38–105。
- 来源
- 原始分类:多人代理的身份与共享记忆
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-09-29 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。
Automating eval design and hillclimbing with Claude
把构建评测和迭代优化连成一个流程,强调先证明评分可信,再判断一次改动是否真的改善生产任务。
展开分析与核对说明
- 问题
- 低方差、代表性、合理难度和可归因性比追逐单个分数更重要,否则优化会放大评测缺陷。
- 方法
- 人工确认样例与评分器,重复评分检查噪声;分离训练和保留样本,每轮只改一个因素,收益不足或退化就回滚。
- 取舍
- 更严格的重复实验和人工校准增加成本,却能减少噪声及过拟合造成的虚假进步。
- 局限
- 作者报告支持任务保留集准确率78.6%升至90.5%、成本约降至五分之一,但仅有14条保留工单;反复用保留集选版本也应另做生产验证。
- 事实边界
- 样例图标明示意;保留集重复选择风险是本表分析,原文未把它作为独立结论。
- 证据位置
- 正文四项评测原则、评分校准、过拟合、逐轮流程及两个案例,L35–178。
- 来源
- 原始分类:评测设计与自动优化
来源栏目:Developer
集合:纳入文章
发布日期:2026-09-28 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Building with Claude Sonnet 5.5
虽然围绕模型发布展开,主体是选型、迁移和调优指南,具体解释请求参数及响应结构变化。
展开分析与核对说明
- 问题
- 只替换模型ID可能触发接口错误或丢失进度展示;应逐项检查工具、思考块、平台差异和会话兼容。
- 方法
- 按块类型解析响应,更新工具与computer-use接口,重跑effort评测,移除旧补丁,并用实际测试确认低effort代码变更。
- 取舍
- 更高effort或图片分辨率可能提高质量,也增加延迟和成本;缓存与会话连续性限制随意切换配置。
- 局限
- 性能与节省比例来自作者描述,不能当作所有任务的保证;接口、价格和beta行为仅代表文章所述时点。
- 事实边界
- 纳入依据是实质实现细节;没有把产品可用性公告当作研究结果。
- 证据位置
- 正文选型、定价、六项迁移变化、Tuning及Refusals,L35–236。
- 来源
- 原始分类:模型迁移与API兼容
来源栏目:Developer
集合:纳入文章
发布日期:2026-09-28 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
A new approach to agent security with Claude Managed Agents and NVIDIA
在合作公告中补充实质架构说明:代理循环及持久状态留在沙箱外,企业可把执行环境放到自己的基础设施。
展开分析与核对说明
- 问题
- 不可信代码和内容不能与凭据及可靠编排状态共处同一信任边界。
- 方法
- Managed Agents负责循环与恢复,自托管沙箱运行工具;OpenShell在代理外执行默认拒绝策略、记录决策并检查规则可达性。
- 取舍
- 企业得到运行环境和数据边界控制,也承担策略配置、沙箱集成和监控责任。
- 局限
- 文章未给攻击评测;策略证明只能确认所写规则下的可达性,不能自动证明业务策略正确或所有模型行为安全。
- 事实边界
- 纳入的是后续增加的技术正文;首发日期仍记9月28日,具体更新日期未报告。
- 证据位置
- 正文 Secure agents 三个架构小节及更新说明,L23–58。
- 来源
- 原始分类:控制平面与执行沙箱隔离
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-09-28 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。 当前页注明补充了 Managed Agents 技术细节,SEO 标题与正文标题不同;不能把当前机制全文归为原始发布时的内容。
Using Claude Code: Spending your effort
结合日常构建试验和Terminal-Bench任务,解释effort怎样改变代理的验证深度、边界情况覆盖及自主判断。
展开分析与核对说明
- 问题
- 更高effort并非单纯输出更长,而是投入更多检查;需求含糊时也可能替用户做更多未经确认的选择。
- 方法
- 先访谈明确规格,用低effort快速迭代,再用高effort验证;从失败轨迹区分漏测边界与根本选错方法。
- 取舍
- 额外时间和token对安全、硬件等边界密集任务较有价值,但不能保证纠正错误路线。
- 局限
- 单任务通常仅5次尝试,失败分类由模型近似判断;安全干预关闭、联网条件及运行日期差异限制与公开榜单比较。
- 事实边界
- 作者的使用习惯与内部实验分别呈现;不把toy examples提升为普遍因果证据。
- 证据位置
- 正文effort定义、三个构建例子、失败分类、领域差异及脚注,L35–174。
- 来源
- 原始分类:推理预算与验证策略
来源栏目:Developer
集合:纳入文章
发布日期:2026-09-25 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
What a task costs on Opus 5.5
把一次任务的总成本拆成轮次、缓存读取、输出和模型单价,说明为什么单看每token价格会误判实际花费。
展开分析与核对说明
- 问题
- 省token但增加重试可能更贵;优化目标应是完成任务的成本,而不是单次请求最便宜。
- 方法
- 从真实会话记录轮次、输出和缓存占比,比较相同任务;优先提供验收测试,再调effort、子代理模型及上下文压缩时机。
- 取舍
- 缓存稳定和较高验证投入可能省总成本;压缩会丢细节且有一次性费用,切换模型或工具也可能重建缓存。
- 局限
- 交互计算器是示例,不计缓存写入或所有折扣;订阅界面美元估算不是实际账单,模型建议应按任务复测。
- 事实边界
- 区分单价变化、假设token变化和实际内部实验;所有费用数字仅用于解释文章发表时的机制。
- 证据位置
- 正文成本分解、同token比较、effort与缓存、Measure it yourself,L35–282。
- 来源
- 原始分类:代理任务成本与缓存经济学
来源栏目:Developer
集合:纳入文章
发布日期:2026-09-25 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
How we made claude.ai 3x faster in two weeks
讲述团队如何通过可测量的用户旅程、代理并行优化和持续回归防护,在两周内改善网页及桌面体验。
展开分析与核对说明
- 问题
- 单靠嘈杂的墙钟时间难以快速迭代;代理需要可重复、且确实关联真实用户延迟的目标。
- 方法
- 结合现场监控与指令数、布局变化、帧预算等实验指标;每次改善通过人工审查、特性开关和渐进发布,再把基线收紧为CI门禁。
- 取舍
- 增加监控与测试维护成本,换取快速迭代的安全边界;团队拒绝了仅省2毫秒却增加900行维护负担的方案。
- 局限
- 作者报告约3倍总体改善、3000多项变更无客户事故或回滚,但并非无人监督实验;p95与超长会话仍待优化。
- 事实边界
- 对话为真实讨论的重建;总体3倍与各旅程p75不是同一指标,不混写。
- 证据位置
- 正文用户旅程基线、计数与时钟验证、guardrails、steering及120Hz案例,L35–241。
- 来源
- 原始分类:性能优化与可观测反馈循环
来源栏目:Developer
集合:纳入文章
发布日期:2026-09-23 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
How to prepare for AI-driven code modernization projects
把现代化拆成目标、正确性证据、晋级政策、环境准备、工作流试点与扩展六步,解决代码变更产生快于组织审查的问题。
展开分析与核对说明
- 问题
- 迁移是否保持旧行为必须先达成共识,否则团队会在每次审查时重新争论何为正确。
- 方法
- 区分版本升级、等价跨栈改写和行为重构;以差分测试、流量重放、独立审查等组成可自动检查的证据,再按风险分配人工审核。
- 取舍
- 先投入领域专家和验证基础设施,换取规模化后的轻量审查;更快晋级意味着必须明确接受的风险。
- 局限
- 试点只能估计成本下限,实时开发中的协调仍是未知量;模型发现的旧业务规则也需专家核验。
- 事实边界
- certificate指项目验收条件,不是监管机构颁发的合规认证;不把框架当作行业法律意见。
- 证据位置
- 正文六个Step、成本说明及Beyond the modernization,L36–177。
- 来源
- 原始分类:大规模代码现代化治理
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-09-23 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Getting the most out of Opus 5.5 in Claude and Claude Code
围绕完成标准、途中引导和最终核验,给出长期代理任务的具体提示模式,并解释模型升级后的行为变化。
展开分析与核对说明
- 问题
- 长时间自主工作仍需要明确边界、可见状态及证据,不能把流畅总结当作已经完成。
- 方法
- 一次说明全任务和停止条件,用文件维护清单;并行任务逐项核验证据,审查只列可复现阻塞问题,报告明确未确认事项。
- 取舍
- 减少不必要停顿可提高连续性,但破坏性操作仍要保留检查;快速模式降低等待却增加费用。
- 局限
- 多项能力判断来自早期测试者和作者经验,没有完整对照数据;模型切换和安全标记行为依赖产品设置。
- 事实边界
- 纳入的是可执行工作流,不把早期用户赞誉记为经过独立验证的性能结论。
- 证据位置
- 正文 How to ask、Steering、Checking、Claude apps、Flags、Speed,L35–251。
- 来源
- 原始分类:长任务提示与人工监督
来源栏目:Developer
集合:纳入文章
发布日期:2026-09-22 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Working at the frontier: How Balyasny Asset Management evaluates and governs Claude Fable 5
BAM介绍用真实任务验证模型及完整代理系统,并把执行、数据访问和人工复核集中到自建平台。
展开分析与核对说明
- 问题
- 更强模型不应自动获得更大权限;选择模型必须考察它在实际工具和工作流中的失败方式。
- 方法
- 用数千项可验证任务检查计划、工具、数值、覆盖和证据;遇到异常跃升重跑评分,配合最小权限、审计和重要产物人工复核。
- 取舍
- 自建框架提高治理可控性,也需要维护数据、检索和评测;高能力模型优先用于错误会向下传播的规划环节。
- 局限
- 89.4%对86.1%是客户内部相关子集成绩,任务集和完整方法未公开;工作时间收益不能直接外推。
- 事实边界
- 保留工程方法,忽略资产规模等宣传信息;案例不是金融建议或独立投资效果证明。
- 证据位置
- 完整正文模型评测、安全治理、BAMAgent和案例问答。
- 来源
- 原始分类:企业代理评测与权限治理
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-09-17 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Agentic coding is straining CI. Here’s how we scaled test impact analysis at Anthropic
复盘CI任务半年增长25倍后,测试选择服务从单进程、多轮补丁走向无状态水平扩展的过程。
展开分析与核对说明
- 问题
- 监听测试结果落后会让选择器依赖陈旧状态,造成脆弱测试阻塞、重复调查和新测试延迟进入,而不等于CI从未运行。
- 方法
- 让任意worker把结果追加到内存数据存储的journal,再由小型消费者周期汇总为逐测试历史,选择器独立查询。
- 取舍
- 分布式方案运行成本更高,却更易扩展、剖析及灰度;此前扩容、分包worker和重启分别只争取70天、29天和不足一天。
- 局限
- 作者建议预留更大增长空间,但25倍并非所有团队的预测;重设计用时三周与过去一季度的比较是经验估计。
- 事实边界
- 以作者报告区分负载增长和代码产出增长;服务遗漏结果不记为未经测试代码上线。
- 证据位置
- 完整正文 AI is evolving CI、架构、三次补丁、The redesign、What I would do differently。
- 来源
- 原始分类:持续集成与状态服务扩展
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-09-14 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。 25 倍 CI 增长是作者组织的半年观测;服务重构成本更高。规划所有团队都按 25 倍增长是作者建议,本站不把它当普遍预测。
Reducing cost and improving performance with Claude Platform
围绕缓存、遗留提示和effort三条路径,说明如何在有评测约束的前提下减少代理任务成本。
展开分析与核对说明
- 问题
- 同样单价下,重复工具调用、缓存失效和错误预算会制造大量无效工作;更高或更低effort都可能失配。
- 方法
- 先定位token去向及前缀差异,再逐项清理旧提示、调整缓存TTL和工具加载,最后跨模型与effort搜索并检查保留集。
- 取舍
- 更大缓存TTL、预热和批处理有适用条件;低effort节省计算,也可能在证据不足时过早结束。
- 局限
- 约24%至73%节省取决于各基准初始配置;支持工单保留集仅14项,不能视为普遍承诺。
- 事实边界
- 原文9月8日首发,后更新纳入9月22日发布模型;区分首发日期与当前正文结果。
- 证据位置
- 正文Prompt cache、Instructions、Effort、Automating cost reduction,L36–129。
- 来源
- 原始分类:成本诊断与配置优化
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-09-08 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
A guide to the anatomy of effective commerce agents
系统介绍商业代理的单循环、工具化界面、缓存、记忆、安全与评测,并提供消费者和商家参考实现。
展开分析与核对说明
- 问题
- 紧耦合购买流程需要完整上下文;真正的可靠性来自后端业务规则和执行约束,而非模型口头承诺。
- 方法
- 按使用频率加载技能,复用既有业务服务;UI由带类型工具渲染,异步提取记忆,写入先暂存再批准,ID与状态上限由服务端校验。
- 取舍
- 流式输出改善感知延迟但可失去服务端Schema保证;共享上下文减少交接,也增加跨技能回归风险。
- 局限
- 异步记忆召回提高13%来自内部评测;清洗外部文本并非完整提示注入防御,安全仍依赖代码边界。
- 事实边界
- 作者的三分之一流量阈值和缓存命中目标是经验起点,不是对所有应用的硬性标准。
- 证据位置
- 正文三部分:架构、延迟成本、生产运行,以及Looking ahead,L36–336。
- 来源
- 原始分类:生产级商业代理架构
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-09-02 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
TASTE: Can AI Models Judge AI Safety Research Proposals?
分享主观研究判断基准的标注流程,核心是提高人工标签一致性。
展开分析与核对说明
- 问题
- 对没有可验证答案的任务,标签质量本身成为评测瓶颈。
- 方法
- 生成提案后独立评分、成对讨论、修订;按强信心与分差筛选并限制提案重复,得到 92 对。
- 取舍
- 筛选提高一致性,但缩小样本并改变样本组成。
- 局限
- 77% 是特定抽样定义下的一致性估计,不能等同普遍人类上限;模型比较区间较宽。
- 事实边界
- 标注流程可复用是整理者纳入理由;未展开敏感提案内容。
- 证据位置
- Building a Research Judgment Benchmark;Evaluating Models’ Research Judgment。
- 来源
- 原始分类:评测与可解释性工程
来源栏目:Alignment Science 博客
集合:纳入文章
发布日期:2026-08-28 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
How Warp builds self-improving agents on Claude
Warp用执行技能和改进技能分工,把原本随会话消失的人类反馈转为可审查、可合并的持久改进。
展开分析与核对说明
- 问题
- 人工反复修提示难以扩展,单纯积累上下文也不足以解决重复低质量评论。
- 方法
- 基础技能完成任务,定时观察者收集具体反馈并提出最小补丁;通过普通PR审核后才改变下一次执行行为。
- 取舍
- 反馈越便利越容易持续,但错误反馈也会污染技能,因此需要可信输入筛选、验证和最终人工控制。
- 局限
- 文章未给严格质量增益或对照数据;其“任何代理都会变好”的结论需以本领域可验证指标检验。
- 事实边界
- 技能更新不同于模型权重训练;文中自我改进是受人类审核约束的文件和流程改进。
- 证据位置
- 正文双技能结构、制作原则、问题分流示例与最佳实践表,L36–89。
- 来源
- 原始分类:基于反馈的技能改进循环
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-08-26 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
The AI-native SDLC playbook
把计划、设计、构建、测试、部署及维护组织成可追溯闭环,让代理加速执行,人的判断仍控制风险边界。
展开分析与核对说明
- 问题
- 代码生成加速后,瓶颈转移到意图、验证和批准;仅替换编码工具不足以改造交付流程。
- 方法
- 以intent、spec、plan及PR形成证据链;技能表达政策,hooks与沙箱落实强制约束,配置变更也运行评测;监控采用确定性检测,按风险触发诊断或受限处置。
- 取舍
- 并行数量受人工审查能力限制;严格权限减少能力,审批带来等待,但保留责任归属。
- 局限
- 示例配置须按组织调整;技能不保证遵从,评测持续更新。分析提示:示例字符串匹配部署钩子并非完整安全边界,不能替代权限隔离。
- 事实边界
- 正文的效率改善多为预期指标,不是受控实验结论;安全示例局限已单独标为分析。
- 证据位置
- 全文六阶段及Resources and acknowledgments;特别参见Skills as institutional knowledge、Managed settings、Closing the loop。
- 来源
- 原始分类:AI原生软件生命周期与治理
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-08-21 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Would This Change Your Answer? Evaluating Explanations of LLM Behavior in the Wild with Counterfactual Experiments
CHIVE 将真实模型行为转为可验证的反事实实验,用于评测解释工具和训练行为预测。
展开分析与核对说明
- 问题
- 解释听起来合理,不代表能预测修改输入后的行为。
- 方法
- 依次采样、筛查、修改提示进行实验、独立核验;以实测结果作标签,而非把模型解释视为真值。
- 取舍
- 自动规模化与因果实验结合,但实验分布较简单。
- 局限
- 三类工具在本文评测中未胜过只读对话的基线,不能外推为所有用途无效。
- 事实边界
- 作者明确区分开放式解释和实测标签;本表不提取敏感案例。
- 证据位置
- CHIVE pipeline;Interpretability tools;Training models。
- 来源
- 原始分类:工程实践与评测
来源栏目:Alignment Science 博客
集合:纳入文章
发布日期:2026-08-21 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
The Claude Code guide for startups
访谈十余家公司,归纳开放原型开发、自动化重复工作、验证、重构和内部试用五类实践。
展开分析与核对说明
- 问题
- 代理生成能力必须配套组织知识与反馈机制,才能让更多角色参与产品开发而不牺牲质量。
- 方法
- 连接真实数据源,共享技能与架构约束,用hooks执行固定检查;把专家纠错提炼成一般原则,在黄金集和随机样本上回测,再通过隔离worktree比较重构方案。
- 取舍
- 快速试验降低实现成本,但增加审查及评测要求;重构须清理旧路径,不能只叠加新实现。
- 局限
- 生产率和PR数量来自受访企业陈述,缺少统一口径和对照;不能当作普遍收益预测。
- 事实边界
- 保留实质开发流程而非创业宣传;企业数字为来源陈述,未独立验证。
- 证据位置
- 全文五条规则及The Checklist;关键过程位于Trust, but verify。
- 来源
- 原始分类:创业团队的代理开发实践
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-08-20 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
How monday.com transformed its platform into an agent-first product where humans and agents collaborate
monday把代理嵌入原有看板、权限和协作流程,而不是在产品旁添加独立聊天窗口。
展开分析与核对说明
- 问题
- 零散摘要和分类功能带来试用,却没有持续使用;团队认为代理需要承担完整工作并保留共享上下文。
- 方法
- 用触发器和提及分派任务,支持自建及外部代理;示例依次生成营销简报、构建页面、审查品牌与法律问题,再交人决定发布。后台数据基础设施同步扩展。
- 取舍
- 重用既有工作方式降低迁移阻力,但信任、权限、透明度与数据承载能力成为前提。
- 局限
- 五百万次交互是采用量而非质量证明;正文没有数据库实现细节、基准或故障分析。
- 事实边界
- 纳入的是架构与流程经验,非底层实现论文;规模数字来自企业。
- 证据位置
- 浏览器全文:Agents as teammates、Four ways to run Claude、From brief to landing page、What monday.com learned。
- 来源
- 原始分类:企业代理产品架构转型
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-08-20 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。
Claude on call: How Claude Tag serves as Anthropic’s first responder for CI/CD failures
Anthropic把告警、调查、修复验证与交接接入Slack代理,以可版本化技能和事故记忆沉淀经验。
展开分析与核对说明
- 问题
- 代码吞吐增长使人工值班难以扩展;需要有证据的首轮诊断,而不是只转发告警。
- 方法
- 确定性告警配合规则及代理升级;编排者并行调查日志、指标和代码,再综合态势报告。lessons.md积累事故,重复经验升级为技能;修复经人审查,随后检查指标恢复。
- 取舍
- 自动调查减少打断,但人仍需修正错误假设,报告形式也要按团队迭代。
- 局限
- 首轮分析中位14分钟是内部观察;文中另一个可控制金丝雀发布的代理,不等同于只读公开套件。
- 事实边界
- 事实为作者实践陈述;明确区分内部部署代理与公开套件,未将速度观察解释为因果实验。
- 证据位置
- 全文Detection、Triage、Resolution、Verification;公开仓库README核对权限边界。
- 来源
- 原始分类:CI故障响应代理
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-08-18 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Maximizing the value of your Claude Code sessions
解释一次编程任务为何因上下文累积、回合数和缓存状态而产生不同成本,并给出会话管理方法。
展开分析与核对说明
- 问题
- 缓存使重复输入便宜但不是免费;优化应减少无关工作,而非盲目压低所有token。
- 方法
- 从prefill、decode与前缀缓存解释账单;新任务清空上下文,相关任务适时压缩,固定开场模型和effort,文件直接提及,降低命令噪声,并将噪声任务隔离到子代理。
- 取舍
- 子代理隔离上下文却增加重复读取;压缩缩短历史但破坏会话缓存,回退仅截断尾部更便宜。
- 局限
- 价格、TTL和配置参数是文章当时版本行为;图形明确为示意,不能当作测量曲线。
- 事实边界
- 未把示意图当成基准;成本改善需结合任务质量验证,正文未提供统一实测节省比例。
- 证据位置
- 浏览器完整正文及末尾四项成本优先级图;What decides the price、What decides how many tokens。
- 来源
- 原始分类:会话上下文与推理成本
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-08-14 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Securing the frontier: How JetBrains evaluates and deploys Claude Fable 5
JetBrains介绍用私有仓库任务选择模型,并把质量、任务成本和速度分别比较。
展开分析与核对说明
- 问题
- 公开榜单未必反映真实工程;更贵的token有时反而对应更低的完成任务成本。
- 方法
- 在私有仓库和单体仓库运行评测,观察通过率、步骤和错误答案;复杂长任务用更强模型,在harness与基础设施层设置安全保障。
- 取舍
- 安全分类器强度、漏洞发现能力与数据保留之间存在张力,受访者接受针对严重标记事件的有限审查。
- 局限
- 评测集未公开,具体部署防护未展开;数据保留意见属于受访者取舍,不是通用合规结论。
- 事实边界
- 44.3%对28.2%通过率和约22%步骤减少均来自JetBrains内部报告,不能泛化至其他任务。
- 证据位置
- 全文访谈,重点为How do you evaluate、How did…score、safety and data retention。
- 来源
- 原始分类:私有代码评测与模型部署
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-08-13 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Self-service data analytics in Slack: how Anthropic deploys Claude Tag for ad-hoc questions
将已有治理语义层和评测能力部署到Slack,重点处理技能新鲜度、服务账号权限及答案反馈。
展开分析与核对说明
- 问题
- 正确查询不等于安全、及时且有用的共享分析;频道成员可能获得服务账号全部数据可见性。
- 方法
- 每次对话重读挂载技能,补充预测和分析流程,关联业务事件;仓库限制服务账号只读治理表,以列分类阻断PII;记录技能版本、质量告警、反馈与查询归属。
- 取舍
- 共享身份减少个人凭据管理,却没有逐用户行级隔离;频道成员资格因此属于数据授权边界。
- 局限
- 点赞和纠错只是在线质量代理指标;前篇约95%准确率不等于Slack部署获得同样验证。
- 事实边界
- 75%以上问题响应是特定频道观察;示例截图注明虚构重绘,未作为真实日志证据。
- 证据位置
- 全文五项部署实践及Getting started;权限限制见Permission the service account deliberately。
- 来源
- 原始分类:共享分析代理的权限与可观测性
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-08-13 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Patterns and problems in emerging multiagent systems
文章通过漏洞发现和共享仓库开发等实验说明,更多代理与更强单体能力并不自然产生有效合作。
展开分析与核对说明
- 问题
- 共享资源、相似行为和冲突目标会导致合并阻塞、重复工作及错误共识。
- 方法
- 比较独立并行与共享论坛群体,用PR合并率和代码共享衡量合作;再用信息分散与矛盾任务实验分析信任和目标协调。
- 取舍
- 论坛能促进分工,也可能放大一致性错误;按文件隔离减少冲突,却不代表真正协作。
- 局限
- 漏洞实验搜索范围和token预算不同;限制到同一核心目录后单位token效果相近,不能用266对21声称等预算优势。
- 事实边界
- 游戏质量差与合并率高可同时成立;社会机制建议是研究推断,不是已验证解决方案。
- 证据位置
- Measuring coordination、Failures from conformity、Epistemic failures及Incompatible goals。
- 来源
- 原始分类:多代理协作实验与失效模式
来源栏目:Anthropic Research / Frontier Red Team
集合:纳入文章
发布日期:2026-08-13 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Introducing the Conceptual Reasoning Index
介绍三个基准的构建和组合方式,用于衡量难以经验验证的概念推理。
展开分析与核对说明
- 问题
- 缺少客观反馈时,需分别测论证评价、逻辑一致性与决策推理。
- 方法
- LMCA 使用专家评分;ACCoRD 将自动校验后再经人工确认的约束纳入;DTBench 使用专家复核题目,按 60/20/20 加权。
- 取舍
- 可量化比较依赖人工规范与权重选择。
- 局限
- 人类评分有噪声;部分模型结果不完整,指标未来可换题调权。
- 事实边界
- 日期 2026-08-12;没有把当前榜单当长期结论。
- 证据位置
- Our benchmarks;Results;Notes。
- 来源
- 原始分类:评测与可解释性工程
来源栏目:Alignment Science 博客
集合:纳入文章
发布日期:2026-08-12 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Running auto mode in production
通过三家公司使用auto mode的访谈,展示减少许可打断后,团队如何仍保留危险操作和对外沟通的人工边界。
展开分析与核对说明
- 问题
- 审批疲劳与完全跳过权限都不可取;分类器应在组织预设的最小权限、监控和操作约束内工作。
- 方法
- 把可度量任务交给长运行代理,同时禁止高危命令;对生产基础设施和外发消息恢复人工检查,并用MCP代理及标准技能约束流程。
- 取舍
- 更长自主运行换来更高配置和可观测性要求;分类器阻止动作并不自动证明所有其余动作安全。
- 局限
- 9倍少打断来自产品使用统计,约10%会话出现拒绝来自Gusto分析;都不是事故率或绝对安全保证。
- 事实边界
- 受访者的满意度、工作时长及收益属于经验报告;保留其对责任和敏感操作的明确限制。
- 证据位置
- 正文Nuro、Gusto、Garner三组访谈,L36–79。
- 来源
- 原始分类:生产代理权限与纵深防护
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-08-07 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
The new rules of context engineering for Claude 5 generation models
团队删除超过80%的系统提示而未测得编码评测下降,由此重新审视哪些旧约束已成为新模型的负担。
展开分析与核对说明
- 问题
- 重复、冲突或过度规定步骤的提示会增加解释成本,也可能阻止模型利用更强的判断与工具能力。
- 方法
- 保留产品定位和项目特殊陷阱,把细节拆到按需技能;用表达力更强的接口、代码、测试和原型作为参考,去掉重复说明。
- 取舍
- 更少硬编码换来适应性,但高度重要的约束仍需保留;简化不是取消所有安全和质量边界。
- 局限
- 80%来自特定内部编码评测,未提供跨模型、跨领域普适证明;删除规则前仍应测试真实任务。
- 事实边界
- 作者报告无可测损失,不等于证明绝无损失;适用范围限定为其所述新一代模型与工作负载。
- 证据位置
- 正文 Unhobbling、六组Then/Now、四类上下文配置,L35–133。
- 来源
- 原始分类:模型升级后的上下文简化
来源栏目:Developer blog
集合:纳入文章
发布日期:2026-07-24 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。 删除超过 80% 系统提示的观察仅对应作者指定的新模型及其编码评测;重要约束仍需保留,不外推为所有模型都应删提示。
Project Pilot: Can AI control a drone?
将一次实体演示拆成可重复的软件测试,以区分偶然成功、稳定性能和整套系统完成度。
展开分析与核对说明
- 问题
- 端到端演示既昂贵又难定位瓶颈,子任务进步也不能直接视为实际部署就绪。
- 方法
- Andon Labs 构建并运行 Drone-Bench,对15个模型比较人机协作基线、最佳与平均表现,再核验实体运行。
- 取舍
- 分解测试更快、可重复,但组件误差仍会在真实系统里累积。
- 局限
- 仅一个办公室、慢速运动和少量参与者;Anthropic 未获得基准访问权,结果由合作方运行。
- 事实边界
- 署名 Anthropic and Andon Labs。仅提炼评估工程,不展开人员跟踪实现方法。
- 证据位置
- Evaluation rationale and methods、Assessing model performance、Looking ahead与脚注。
- 来源
- 原始分类:机器人基准分解与可靠性评估
来源栏目:Anthropic Research / Frontier Red Team
集合:纳入文章
发布日期:2026-07-24 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
How Outtake built a cyber investigator on Claude
Outtake从人工调查经验出发,构建能追踪关联基础设施、形成证据图和时间线的长时代理。
展开分析与核对说明
- 问题
- 长任务不能只靠更长提示;既要允许临场探索,又要让必要步骤可靠执行。
- 方法
- 先人工定义好调查,再用Claude Code试验、迁移Agent SDK;文件系统保存跨压缩记忆,编排层硬编码约束,评测把人工复盘转成可重复评分;另一个编码代理按调查反馈补工具。
- 取舍
- 通用文件与shell工具提升适应力,也扩大攻击面,因此按代理可能被劫持来设计隔离。
- 局限
- 最长两小时与中位16分钟为公司观察;未公开检测准确率,网络信任检查仍在推进。
- 事实边界
- 本文是防御系统设计案例;不将客户所称安全性理解为不会遭提示注入。
- 证据位置
- 全文四阶段、Tools、Prompts are suggestions、Evals、Protecting your agents。
- 来源
- 原始分类:长时网络威胁调查代理
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-07-22 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Building verification loops in Claude Code with skills
把反复进行的人工检查写成技能,让代理实现、检查并修复后再报告完成。
展开分析与核对说明
- 问题
- 工具链能发现部分错误,但项目特有的检查标准常留在人脑中,必须显式表达。
- 方法
- 按触发方式选择独立调用、嵌入生成技能、串联包装或每个PR运行;在新任务上验证检查真正执行,再逐步推广。
- 取舍
- 串联减少遗漏却降低灵活性并增加token;插件管理的技能不宜直接改写,使用包装技能更稳妥。
- 局限
- 技能文本不是强制安全保证;团队级门禁应等流程稳定后再引入,文章没有量化改善实验。
- 事实边界
- 区分作者建议、产品现有能力和实际团队使用方式;未声称每次都会自动正确验证。
- 证据位置
- 全文Writing verification loops、Make it a skill及四种运行位置;结尾六步清单。
- 来源
- 原始分类:技能化验证循环
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-07-22 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
How Datadog built a “universal machine tool” for Claude Code
Datadog用Temper让代理输出规格,由确定性内核验证并执行,缩小生成速度与可靠性之间的差距。
展开分析与核对说明
- 问题
- 不断让代理生成零散工具增加协调与验证负担;控制逻辑应成为显式、可检查的状态机。
- 方法
- 以行为、数据和授权三个契约描述能力;依次进行符号推理、状态遍历、带固定种子的故障模拟和随机性质测试,再加载运行。
- 取舍
- 受约束规格提高可验证性,却要求系统适合状态与数据控制逻辑;小规格快速验证不代表任意程序都可快速证明。
- 局限
- Helix仍在生产推广;2至5倍成本机会是影子运行观察,不是已全面兑现收益。形式保证取决于规格和内核边界。
- 事实边界
- 设计机制来自访谈;保证适用边界是分析说明,不把“通用机床”比喻当作任意软件正确性证明。
- 证据位置
- 全文The road to Temper、Temper、Why not just build a CRUD app及末尾实践表。
- 来源
- 原始分类:规格驱动的确定性运行时
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-07-21 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
How Anthropic secures its AI-native software development lifecycle
Anthropic按开发阶段组合安全指导、隔离、自动审查、动态测试及可审计治理。
展开分析与核对说明
- 问题
- 代码产量快速增长使人工审查成为瓶颈,而注入、供应链污染与跨代理权限扩展增加新风险。
- 方法
- 将漏洞经验回写技能;开发VM限制出站网络;独立上下文代理配合SAST和不变量测试,按风险自动审批并人工抽样;单用途身份、SIEM与影子测试监控整个循环。
- 取舍
- 自动审查改变风险分布而非消除风险,扫描成本随吞吐增长;人工重点转向高风险代码及监督。
- 局限
- 事故代理曾通过Slack请求另一代理写补丁,说明权限还包括可触达的代理;持续AI动态测试当时处于实施阶段。
- 事实边界
- 80%代码、8倍吞吐与审查覆盖均为作者报告;历史事故可被发现比例为回溯估计,不是前瞻实验。
- 证据位置
- 全文Plan、Code、Test、Deploy、Monitor、Governance;关键案例在Monitor。
- 来源
- 原始分类:AI原生SDLC安全工程
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-07-21 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Zero risk isn't the job: a CISO's guide to agentic AI
提出四问评估输入、动作、影响范围和可观测性,再以最小能力原则设计可接受的部署。
展开分析与核对说明
- 问题
- 目标不是零风险,而是让风险可见、可限制,并在模型升级后仍维持边界。
- 方法
- 区分服务身份和个人代理;连接器及动作白名单、临时沙箱、代理注入凭据、强制出口代理、SIEM遥测和分层停用共同约束能力。
- 取舍
- 限制权限会牺牲便利;委托身份与无人监督混合时责任模糊,遥测提示内容也带来隐私取舍。
- 局限
- 模型升级可在既有权限内产生新行为;内部日志可信是作者特定威胁模型,不可普遍假定。产品审计覆盖描述属于文章当时状态。
- 事实边界
- 安全边界说明为工程解读,不提供认证或法律结论;文章中绝对化安全措辞未当成风险为零的保证。
- 证据位置
- 全文四问、identity spectrum、两组案例、七项控制及治理结论。
- 来源
- 原始分类:代理安全评估与身份边界
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-07-17 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Working at the frontier: How Cursor knew Claude Fable 5 was ready for the hardest 1% of problems
Cursor用CursorBench评估含模糊目标甚至错误假设的工程任务,而不只比较规范化题目答案。
展开分析与核对说明
- 问题
- 公开分数与开发者实际体验脱节;评测应检查代理能否理解意图、诊断并验证结果。
- 方法
- 构造只含堆栈和“修复”等真实提示,以及错误模块线索;高分后人工审阅困难任务轨迹,再用个人长时仿真探索边界。
- 取舍
- 复杂未知任务优先完成时间,常规任务使用轻量模型以控制成本。
- 局限
- 72.9%为内部Max effort结果;登月任务是个人案例,不构成统计结论。数日至数周运行仍是下一步实验。
- 事实边界
- 不采信文中“中立评判者”的营销定位作为方法保障;区分内部评测、主观体验和单次演示。
- 证据位置
- 全文CursorBench介绍、Reasoning about the entire mission、When to reach…及What's next。
- 来源
- 原始分类:贴近真实提示的编码代理评测
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-07-17 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
How Anthropic runs large-scale code migrations with Claude Code
通过Bun及内部Python迁移总结六阶段流程,重点是修正生成规则而不是逐文件手工打补丁。
展开分析与核对说明
- 问题
- 迁移既需要行为一致性,也需要控制并行成本;没有可靠裁判就没有清晰退出条件。
- 方法
- 先验证跨语言测试裁判,再建规则、依赖图和差异清单;小规模压力测试后并行翻译、独立对抗审查、编译、烟测与行为对照。昂贵构建交给唯一守护进程批处理。
- 取舍
- 小模型处理大量实现,强模型审规则;编译放循环内还是外取决于速度;重构式迁移不能照搬逐行对比。
- 局限
- Bun合并前测试全过,仍出现19项回归;约4%Rust含unsafe。约16.5万美元为API计价估算,模板并非案例当时实际脚本。
- 事实边界
- 保留作者报告的成本与回归;“文件存在”仅是翻译队列完成标记,不代表迁移质量通过。
- 证据位置
- 全文Prerequisites、六步骤及Review loop results, not code。
- 来源
- 原始分类:大规模语言迁移的验证闭环
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-07-16 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Working at the frontier: Why Base44 trusts Claude Fable 5 with their most challenging engineering work
Base44介绍复杂系统提示重构,以及新模型评测中补入缓存命中检查的经验。
展开分析与核对说明
- 问题
- 提示有大量用户与应用条件分支,改动会同时影响生成质量和规模化成本。
- 方法
- 按应用类型测延迟、成本与构建错误,加入复杂应用试验;重构后使用既有A/B基础设施验证,并补测提示变化引起的缓存失效。
- 取舍
- 更强模型承担跨模块探索,人仍审查、测试并批准;少回合不等于无需验收。
- 局限
- 90%至95%完成度是访谈估计;未公开样本数、缓存指标定义或A/B结果。
- 事实边界
- 作为有限深度工程案例纳入;只提取评测与缓存经验,不把产品赞誉当作性能证据。
- 证据位置
- 全文Trusting Fable 5…,重点为评测、系统提示改写和缓存遗漏。
- 来源
- 原始分类:应用生成系统的评测与提示重构
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-07-15 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Working at the frontier: How Hebbia builds AI for financial diligence that can't miss a detail
Hebbia以网格承载每一步带来源的答案,将大规模文档分析拆成可检查的步骤。
展开分析与核对说明
- 问题
- 高风险分析既要找到依据,也要正确综合;引用匹配改善与答案准确性提升不是同一指标。
- 方法
- 用金融专用问答引用测试和带真实工具的开放式代理任务比较替换模型;持续增加难题,使用可重复的小步骤控制输入文档与执行顺序。
- 取舍
- 长时自主能力增强,但客户仍需要指定数据边界和流程,因此不直接换成一次大模型调用。
- 局限
- 约20%为相对准确率提升,引用匹配大致持平;数据集和统计细节未公开。
- 事实边界
- 数字为企业测试陈述;“更理解证据”是受访研究员解释,非独立因果结论。
- 证据位置
- 全文How Hebbia holds…、Clearing…、What's next。
- 来源
- 原始分类:多文档分析的可追溯性与评测
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-07-13 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。
Working at the frontier: How Cognition trusts Claude Fable 5 to work through the night
Cognition把内部Frontier Code分数与工程师真实工作试用结合,检验模型能否产出愿意保留的代码。
展开分析与核对说明
- 问题
- 仅通过测试可能仍生成难以维护的代码,长会话还可能丢失目标或过早接受日志中的首个解释。
- 方法
- 以更难的内部任务测表现,再由资深开发者完成真实工作日验证;观察不变量声明、调试工具使用、根因与不确定性表达。
- 取舍
- 长时自主减少监督,但代码仍需达到生产标准,不能以运行时长代替进展。
- 局限
- 困难子集约10%至30%和八小时运行均为内部陈述;未公开评分细则,未来90%主动会话是预测。
- 事实边界
- “不信任评测”是强调真实试用的访谈修辞,团队事实上仍使用评测,已避免误解为完全不用。
- 证据位置
- 浏览器完整正文:Where earlier models…、Claude Fable 5 clears…、What's next。
- 来源
- 原始分类:长时编码代理的实用评测
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-07-10 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。
Claude plays robotics
能力取决于模型如何接入机器人。文章对比直接动作、Python 控制器、预训练策略监督与强化学习,并公开评测实现细节。
展开分析与核对说明
- 问题
- 单独评价模型会低估工具赋能,却可能把暂停仿真的成绩误当实时能力。
- 方法
- 统一适配器、固定提示和多次试验;MuJoCo、LIBERO、MolmoAct 与新导航任务结合,消融方向工具、推理预算和上下文。
- 取舍
- 罗盘或交互光标比泛化视觉叠图更有效;监督器也会过度覆盖原本正确的策略。
- 局限
- 部分实验暂停物理时间;实际机器人样本少,长程空间记忆与泛化仍弱。推理预算并非越多越好。
- 事实边界
- 作者 Shmuel Berman、Michael Ilie、Jia Deng、Daniel Freeman。数值以正文和图注为据,未复现实验。
- 证据位置
- 四种接口、工具与瓶颈正文,以及 Models/APIs、Latency、RL、Vision、Compute、Reproducibility 附录。
- 来源
- 原始分类:机器人评估框架与控制接口
来源栏目:Anthropic Research / Frontier Red Team
集合:纳入文章
发布日期:2026-07-09 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Working at the frontier: How Thomson Reuters builds AI for high-stakes professional work
Thomson Reuters将权威内容、专家标注、引用核验和工作流编排组合成专业代理系统。
展开分析与核对说明
- 问题
- 流畅答案不足以支持专业责任;评价重点应是计划、工具调用和可核验的结果。
- 方法
- 从顺序执行独立技能改为Agent SDK动态计划与委派,连接既有工具和内容;在交付前核对引用,并让专业人员参与过程及最终复核。
- 取舍
- 更自主的编排扩展复杂任务范围,但需要长链上下文可靠性和人工责任边界。
- 局限
- 没有公开定量评测协议;三小时到四分钟是单项故障案例,不是总体生产率估计。
- 事实边界
- 这是系统设计访谈,不是法律建议;Fiduciary-Grade AI为企业命名,不能理解为独立认证。
- 证据位置
- 浏览器全文:Evaluating models…、Building an agent-first product、What knowledge work demands…。
- 来源
- 原始分类:专业知识代理的验证架构
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-07-08 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Choosing a Claude model and effort level in Claude Code
解释模型选择改变固有能力,而effort主要影响探索、验证和交回结果前投入的工作量。
展开分析与核对说明
- 问题
- 面对错误不应先调旋钮:先检查上下文,再区分能力不足与未充分检查。
- 方法
- 从固定权重、token生成和代理输出解释行为;常规任务从默认effort开始,复杂或模糊任务考虑更强模型,遗漏检查时考虑增加effort。
- 取舍
- 更大模型单价高却可能更少重试;高effort增加成本,也不保证跨越模型能力上限。
- 局限
- effort不是硬token上限;曲线及token ID是示意。文中机制解释为教学简化,不能据此推断每步都重算全部历史。
- 事实边界
- 明确区分建议、示意与内部测试陈述;没有把模型系列比喻当作严格能力分类。
- 证据位置
- 浏览器全文:How model selection works、How effort works、What to change、token consumption。
- 来源
- 原始分类:模型能力与推理投入的区分
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-07-07 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
A field guide to Claude Fable 5: Finding your unknowns
围绕未表达的知识和未发现的约束,建立实施前、中、后的协作方法。
展开分析与核对说明
- 问题
- 计划不能一次消除所有未知;过度具体会限制转向,过于模糊会让模型用不适合的默认假设补空白。
- 方法
- 先做盲点检查、原型和逐问访谈,再用源代码参考及计划明确关键决策;新会话接收规格,实施记录偏离,最后用解释和测验检查人的理解。
- 取舍
- 前置探索消耗时间,却减少后期返工;临场偏离允许继续推进但须留可审查记录。
- 局限
- 属于个人实践,未有对照实验;自测通过不能替代代码测试或独立审查。
- 事实边界
- 建议与经验均归于作者;测验的验证边界为分析说明。
- 证据位置
- 全文四类unknowns及Pre/During/Post implementation;作者Thariq Shihipar。
- 来源
- 原始分类:代理协作中的需求澄清
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-07-06 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Loop engineering: Getting started with loops
按触发和停止方式区分回合型、目标型、时间型及主动循环,并说明如何逐步升级。
展开分析与核对说明
- 问题
- 自动化不能只有重复执行,还要有可验证的完成定义、合理触发频率和成本边界。
- 方法
- 技能记录检查方法,目标循环由评估者判断停止,定时循环处理外部变化,主动流程组合调度、编排与审查;确定性步骤交脚本。
- 取舍
- 更复杂循环增加token和失控范围,先试点小任务;定时频率应匹配真实变化速度。
- 局限
- 技能和评估者仍可能判断错误;文章提供设计建议而非性能或安全保证。
- 事实边界
- 区分任务完成与常驻调度终止;自动权限模式不解释为取消组织安全边界。
- 证据位置
- 全文四类循环、Maintaining code quality、Managing token usage及总结表。
- 来源
- 原始分类:代理循环设计与停止条件
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-06-30 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Agent identity in Claude Tag: a new access model for autonomous, team-wide AI
共享频道代理使用独立服务账号,权限围绕频道配置而不是临时选取某个发言者身份。
展开分析与核对说明
- 问题
- 多人协作和延迟执行使“代表哪个用户”变得模糊,必须明确谁可调用代理、代理可访问什么。
- 方法
- 工作区基线加频道覆盖,私有频道独立身份、公共频道共享身份;凭据在网络边界注入,限制出站并记录动作;私信仍用个人身份。
- 取舍
- 频道成员可借代理读取自己没有直接权限的数据,因此频道加入与配置是授权行为。
- 局限
- 按请求者权限再校验和即时单次凭据授权在文中属于未来计划,不能当作现有保护。
- 事实边界
- 不把“无个人凭据”误读为无泄漏风险;正文同时倡导广泛上下文及渐进授予,治理仍须按最小权限落实。
- 证据位置
- 全文Why act as user breaks down、Inheriting permissions、identity boundaries、Security and audit、What's next。
- 来源
- 原始分类:共享代理的身份与授权模型
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-06-24 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Building effective human-agent teams
文章把长期协作视为团队设计问题,而不只是提示词问题。代理需要持续记忆、清晰职责和可用工具,人类则负责目标及权限边界。
展开分析与核对说明
- 问题
- 单次任务成功不代表代理能够稳定承担团队职责;人的审阅注意力也会成为瓶颈。
- 方法
- 先定义团队目标和代理名册,再提供独立身份、共享上下文与持久记忆。按任务类型逐步扩大自主权,用人工反馈、验证器和复盘记录改善行为,并把零散问题合并提交。
- 取舍
- 自主性提升会减少逐步指挥,却增加权限治理与结果验证需求;不能用无限审阅队列消耗人的注意力。
- 局限
- 尚无受控比较证明这一组织模式普遍有效;跨工作区共享和长期记忆仍需明确安全边界。
- 事实边界
- 作者经验与建议,不是通用效果保证;文中内部案例不能直接外推。
- 证据位置
- 正文团队构成、角色与权限、反馈循环、管理人类注意力各节。
- 来源
- 原始分类:人机团队与代理运营
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-06-24 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Steering Claude Code: when to use CLAUDE.md, skills, hooks, and subagents
比较七类引导机制,重点不是把指令写得更多,而是让合适内容在正确时机进入上下文。
展开分析与核对说明
- 问题
- 把长期约定、临时任务和硬性控制混在一起,会增加上下文成本,也使执行边界不清。
- 方法
- CLAUDE.md承载稳定约定;路径规则局部加载;技能按需提供流程;子代理隔离探索;hooks响应生命周期事件;输出风格调整交互;附加系统提示用于单次启动。
- 取舍
- 常驻内容方便但持续占用上下文;按需加载更节省,却依赖正确触发。子代理减少主上下文污染,但需要传递任务和结果。
- 局限
- 提示性规则不是安全隔离。Hooks的触发可确定,但调用模型的hook判断不因此变为确定性;仍需权限和管理配置。
- 事实边界
- 保留文章发布时行为;不把产品配置建议当成永久接口契约。
- 证据位置
- 正文比较表以及CLAUDE.md、Rules、Skills、Subagents、Hooks、Output styles、System prompt各节。
- 来源
- 原始分类:Claude Code 配置与上下文
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-06-18 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Project Fetch: Phase two
后续试验让 Opus 4.7 在 Claude Code 中独立完成连接和编程子任务,但精细取球仍失败。
展开分析与核对说明
- 问题
- 区分软件接入进步与真正解决机器人控制。
- 方法
- 最大自适应思考配置运行三次;人类接线、输入提示并批准命令及任务切换,按完成时间比较旧试验。
- 取舍
- 更少代码与更快连接不等于更强物理闭环;人类操控仍可能优于生成的自主程序。
- 局限
- 仅三次试验且比较任务子集;不涉及底层驱动策略,仍有人工审批。
- 事实边界
- 作者 Michael Ilie、C. Daniel Freeman、Kevin K. Troy。发布日期和更正日期均为2026-06-18。
- 证据位置
- What did we do、Where Claude excelled/struggled、更新说明及脚注。
- 来源
- 原始分类:自主硬件集成的任务评估
来源栏目:Anthropic Research / Frontier Red Team
集合:纳入文章
发布日期:2026-06-18 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Secure access to the Claude Platform with Workload Identity Federation
文章虽以上线为背景,但解释了从长期API密钥转向短期身份凭据的认证链路,故按技术机制文章纳入。
展开分析与核对说明
- 问题
- 共享静态密钥难以追踪工作负载身份,也带来轮换和泄漏风险。
- 方法
- 平台验证外部身份提供者签发的OIDC令牌,按联邦规则匹配声明,映射到服务账户,再签发受角色约束的短期令牌并记录审计。
- 取舍
- 可逐个工作负载迁移,保留API密钥兼容;减少静态密钥不等于消除上游身份配置风险。
- 局限
- 正文没有安全对抗评估、延迟测量或完整配置示例;上游风险属于整理者的安全边界分析。
- 事实边界
- 认证链路是作者陈述;安全边界分析明确不是文章已证明的结论。
- 证据位置
- 全文How Workload Identity Federation works至Getting started;通过官方网页正文核实。
- 来源
- 原始分类:工作负载身份与密钥治理
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-06-17 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。
The evolution of agentic surfaces: building with Claude Managed Agents
从API、Claude Code和Agent SDK的演变解释托管代理为何把推理、执行环境与持久会话拆开。
展开分析与核对说明
- 问题
- 长任务不能把状态与单个进程寿命绑定,团队也不应反复实现恢复、凭据和运行环境。
- 方法
- 采用推理与工具执行分离、追加式会话事件、隔离环境和检查点;凭据保存在代理上下文之外,通过受控代理访问。
- 取舍
- 托管减少基础设施负担,却让部署和定制受平台边界约束;需要完全自定义控制时,直接API仍有价值。
- 局限
- 模型改进会使旧harness补偿措施失效,需要持续重评。文中延迟改善属于内部结果,未提供完整复现实验。
- 事实边界
- 架构与内部测量来自作者;不推断所有工作负载都能获得相同收益。
- 证据位置
- 正文演进、brain/hands分离、会话持久化、凭据和模型变化段落。
- 来源
- 原始分类:托管代理架构
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-06-10 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Measuring LLMs’ impact on N-day exploits
用已公开补丁评估风险,并把崩溃复现、稳定性和安全边界突破分开验证。
展开分析与核对说明
- 问题
- 应避免把非目标崩溃、评分器操纵或最优一次成绩误判为真实可靠能力。
- 方法
- Firefox 对修复前后构建做差分验证;Windows 在全新虚拟机重新编译运行,使用随机校验与代理复核排除作弊。
- 取舍
- 单独引擎便于可靠评分,却不等于完整浏览器;多次取最快与50次稳定性测试各有不同含义。
- 局限
- 基准不包含现实攻击所有阶段;成本只报告 API 口径,部分预处理另计,不能当作端到端现实成本。
- 事实边界
- 作者 Winnie Xiao、Tim Abbott、Nicholas Carlini、Newton Cheng、David Forsythe、Keane Lucas、Milad Nasr、Shikhar Sakhuja;只总结防御评估。
- 证据位置
- Firefox Setup/Results、Windows Setup/Results及图注中的评分与时间定义。
- 来源
- 原始分类:安全评估隔离与验证器加固
来源栏目:Anthropic Research / Frontier Red Team
集合:纳入文章
发布日期:2026-06-08 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Lessons from building Claude Code: How we use skills
从内部数百个技能中归纳用途和维护经验,说明技能应封装特定知识、脚本与资源,而非只是更长的提示。
展开分析与核对说明
- 问题
- 技能只有在能被正确触发、补足真实缺口并持续修正时才有价值;泛泛重述常识会增加上下文负担。
- 方法
- 按用途明确边界,以常见错误积累gotchas;渐进加载参考文件,复用脚本,声明配置、持久状态与临时hooks,并记录触发情况。
- 取舍
- 仓库内分发简单但扩大默认上下文,插件市场更适合规模化;过度细化步骤会限制适应性。
- 局限
- 市场当时没有原生技能依赖管理;调用次数能发现漏触发,却不能单独证明质量提升,正文未给定量效果。
- 事实边界
- 九类是内部观察框架而非穷尽分类;验证技能最有效是作者经验,未提供完整实验数据。
- 证据位置
- 正文九类技能、制作技巧、分发、市场治理、组合及衡量,L35–224。
- 来源
- 原始分类:技能设计、分发与维护
来源栏目:Developer blog
集合:纳入文章
发布日期:2026-06-03 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Running an AI-native engineering org
文章讨论编码更快之后,工程组织如何重新安排评审、实验和责任,而非介绍人事变化。
展开分析与核对说明
- 问题
- 代码吞吐上升会把瓶颈转移到验证、安全和决策;仅统计产出无法判断产品价值。
- 方法
- 用快速原型与内部试用缩短反馈周期,让AI处理常规检查,人类重点审查信任边界和产品判断;持续观察上手速度及PR周期。
- 取舍
- 减少长计划和层级能提高试验速度,但仍需保留系统专业能力与明确责任。
- 局限
- 经验性组织建议没有受控因果证据;AI辅助提交占比等指标不等同业务成果。
- 事实边界
- 只纳入技术组织方法;文中招聘观点不是对个人或人事新闻的汇编。
- 证据位置
- 正文工程瓶颈、团队运作、人才能力和衡量指标部分。
- 来源
- 原始分类:AI原生工程组织实践
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-06-03 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
How Anthropic enables self-service data analytics with Claude
核心难点不是生成SQL,而是把问题映射到正确、最新的数据定义。治理和可维护技能共同支撑自助分析。
展开分析与核对说明
- 问题
- 作者归纳三类失误:概念歧义、知识过时、检索失败;答案看似合理时尤其难发现。
- 方法
- 建立权威数据集与语义层,用知识技能路由、流程技能执行;数据模型和技能同库维护,结合固定基准、消融和用户纠错回流。
- 取舍
- 对抗审阅提高准确性,但作者报告代价为更多token与延迟。更多历史SQL并未明显提升效果,说明可访问不等于能正确使用。
- 局限
- 内部评估不能代表线上完全可靠。静默错误仍未解决;业务定义须由人负责,访问范围也不能只为效果无限扩大。
- 事实边界
- 准确率和消融结果均为团队自报;不把技能导致提升解读为适用于所有数据仓库的因果定律。
- 证据位置
- 正文Data foundations至Online validation,以及完整Appendix技能骨架。
- 来源
- 原始分类:数据代理与评估
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-06-03 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Mapping AI-enabled cyber threats: Insights from the LLM ATT&CK Navigator
将已封禁账户的行为映射到 ATT&CK,构建用于防守优先级排序而非预测攻击成功率的风险分数。
展开分析与核对说明
- 问题
- 单看技术数量或操作者熟练度,会漏掉代理自主串联行动带来的风险。
- 方法
- 832 个账户、13,873 次观察;ARiES 将威胁、模型赋能与影响按35/35/30分相加,再用于分类器和探针改进。
- 取舍
- 加法保留意图或后果尚不明确的信号,但分数不是事件概率。
- 局限
- 样本是可充分映射的封禁账户子集;检测改进可能影响时间趋势,不能外推全部用户。
- 事实边界
- 作者 Kyla Guru、Alex Moix、Jacob Klein。仅总结防御方法,不复述攻击操作链。
- 证据位置
- About the dataset、ARiES formula、How we are using the Navigator及脚注。
- 来源
- 原始分类:滥用监测分类与风险评分
来源栏目:Anthropic Research / Frontier Red Team
集合:纳入文章
发布日期:2026-06-03 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
A harness for every task: dynamic workflows in Claude Code
让代理为当前任务生成JavaScript工作流,按任务结构选择分工、验证与终止条件,而不是固定复用同一条流程。
展开分析与核对说明
- 问题
- 单上下文长任务会出现提前停止、自我偏好和目标漂移;明确的外部编排可以隔离这些失误来源。
- 方法
- 用agent、parallel、pipeline组合分类、并行综合、对抗验证和循环;以结构化输出、worktree隔离、预算和检查点管理执行。
- 取舍
- 更细的上下文隔离和验证提高覆盖,却增加token、协调及合并成本,普通任务未必需要多位评审。
- 局限
- 最佳实践仍在形成,原文没有系统性收益实验;隔离不可信读取与高权限执行是防护模式,不应视为完整安全证明。
- 事实边界
- 实例和示意图用于解释结构,不记为所有场景已经验证的成功率。
- 证据位置
- 正文机制、六种模式、用途、何时不用及预算分享,L35–194。
- 来源
- 原始分类:动态多代理执行框架
来源栏目:Developer blog
集合:纳入文章
发布日期:2026-06-02 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
How CodeRabbit used Claude to build an agent orchestration system
CodeRabbit在代码生成前增加团队共同审阅的规划阶段,把隐含需求变成明确约束。
展开分析与核对说明
- 问题
- 代码能编译、测试能通过,仍可能没有解决真实问题;迟到的需求验证会造成返工。
- 方法
- Opus负责高层编排,Sonnet组织步骤,Haiku承担局部任务;用人工样例、模型裁判和最终代码结果评估规划,并比较有无规划的执行。
- 取舍
- 规划过细容易随代码变化失效,过粗又留下猜测空间;模型分工应由质量、成本和延迟评测决定。
- 局限
- 未公开规划评估数据集、完整打分规则或量化收益,因此不能独立验证效果。
- 事实边界
- 企业案例的工作方法与效果判断来自受访团队,非独立对照研究。
- 证据位置
- Addressing the internal knowledge gap至Building an eval harness及结尾建议表。
- 来源
- 原始分类:代理编排与规划评测
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-05-27 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Using LLMs to secure source code
文章主张把漏洞发现与验证、分级、修补分开,避免扫描量增长淹没维护者。
展开分析与核对说明
- 问题
- 发现可并行扩展,但误报、重复报告和未验证补丁成为后续瓶颈。
- 方法
- 先建威胁模型和隔离测试环境,再分区扫描;独立验证者尝试推翻发现,按根因去重、按可达性和影响分级,最后以回归测试及原始PoC验证最小补丁。
- 取舍
- 发现追求召回,验证追求精度;真实沙箱投入较高,但缺少它就需要更多人工验证。不能复现不等于证明不存在漏洞。
- 局限
- 沙箱偏离生产会造成误报或漏报;模型可能过度修复,最终补丁仍须人负责。案例比例不是统一基准。
- 事实边界
- 只总结授权防御流程;漏洞数量、案例效果为作者报告,未独立复现。
- 证据位置
- 全文六阶段及Getting started、Moving forward;作者Eugene Yan、Henna Dattani。
- 来源
- 原始分类:防御性代码安全与验证流水线
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-05-27 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
How we contain Claude across products
比较云端临时容器、本机沙箱、Cowork 虚拟机,并复盘信任提示前执行与允许域名外泄。
展开分析与核对说明
- 问题
- 模型防御有漏检;应先限制可触达资源与损害半径,再管理行为。
- 方法
- gVisor、Seatbelt/bubblewrap、虚拟机;凭据留在宿主;会话令牌;出口代理、路径先解析后验证。
- 取舍
- 隔离强度与可用性、用户专业程度、启动成本及 EDR 可见性冲突。
- 局限
- 持续记忆污染、子代理信任升级及跨平台代理身份未解决;日志导出不能替代实时监测。
- 事实边界
- 攻击比例与性能数字是本文场景结果;不能推为所有部署安全保证。
- 证据位置
- Three types;Patterns;Trusting what the agent reads;Looking ahead,L47–201。
- 来源
- 原始分类:代理安全与隔离架构
来源栏目:Engineering
集合:纳入文章
发布日期:2026-05-25 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。 原链接现重定向至 https://www.anthropic.com/research/how-we-contain-claude,保留索引时的来源栏目。 内容检测、动作审批和环境隔离不可混同。不同产品采用不同边界;Cowork 隔离也降低端点检测可见性。文中风险案例仅按防御架构解读。
Measuring LLMs’ ability to develop exploits
比较三种评测架构,强调复现缺陷、达成安全影响和使用指定漏洞应分别计量。
展开分析与核对说明
- 问题
- 过易基准无法区分新模型,而仅看成功标记也可能奖励非预期路径。
- 方法
- ExploitBench 用程序化分层验证和随机化重放;ExploitGym 结合动态标记与模型判定;SCONE 在本地模拟中测量结果。
- 取舍
- 统一轮数与墙钟时间回答不同问题;安全缓解开关、模型执行框架和多次取优会改变可比性。
- 局限
- 关闭缓解措施或取多次最佳的结果不能外推现实成功率;模拟金额不是实际损失,预测未来普及也不是事实。
- 事实边界
- 作者 Newton Cheng、Keane Lucas、Winnie Xiao、Nicholas Carlini、Milad Nasr。只总结评估方法,不提供漏洞利用步骤。
- 证据位置
- ExploitBench、ExploitGym、SCONE三节的验证规则、预算及结果口径。
- 来源
- 原始分类:安全基准验证器与公平比较
来源栏目:Anthropic Research / Frontier Red Team
集合:纳入文章
发布日期:2026-05-22 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Using Claude Code: The unreasonable effectiveness of HTML
作者用HTML替代许多Markdown输出,把计划、评审、原型和报告做成更易浏览且能交互的工作材料。
展开分析与核对说明
- 问题
- 代理能产生更长材料后,人可能反而读得更少;输出形式应帮助人理解选择、给反馈并保留监督。
- 方法
- 组合图表、导航、标注差异和可调控件;临时编辑器必须导出JSON、差异或提示,将人的选择带回开发流程。
- 取舍
- HTML通常需要更多token及渲染环境,却能提高表达密度;是否值得取决于阅读和互动需求。
- 局限
- 正文明确是个人偏好,没有可读性对照实验;更易分享不代表应公开敏感项目资料。
- 事实边界
- 作者主观体验与本表的隐私提醒分开;不宣称HTML在所有任务中优于Markdown。
- 证据位置
- 正文五项理由、五类用途、FAQ与保持参与,L35–185。
- 来源
- 原始分类:代理输出与人机交互设计
来源栏目:Developer blog
集合:纳入文章
发布日期:2026-05-20 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
How Claude Code works in large codebases: Best practices and where to start
总结大型代码库部署经验:实时探索需要清晰入口,模型之外的配置和组织维护同样重要。
展开分析与核对说明
- 问题
- 无索引搜索避免陈旧嵌入,却可能在巨大、结构混乱的仓库耗尽上下文。
- 方法
- 分层维护精简CLAUDE.md,按子目录提供测试命令;用LSP定位符号、技能提供流程、插件分发配置,MCP连接工具,子代理分离探索与编辑。
- 取舍
- 实时搜索减少索引维护,但需要代码库可导航;局部测试节省时间,深层跨目录依赖则要求专用构建配置。
- 局限
- 作者明确主要面向常规工程仓库;超大目录、特殊版本控制和大型二进制资产需要额外设计,未给统一性能保证。
- 事实边界
- 部署经验不等于检索架构的全面对照;文中关于RAG的局限不应解读为所有RAG系统必然过时。
- 证据位置
- How Claude Code navigates large codebases、三类配置模式和Applying these patterns各节。
- 来源
- 原始分类:大型代码库与开发平台
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-05-14 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Best practices for computer and browser use with Claude
涵盖截图坐标、推理预算、注入防御、缓存与压缩,以及示范式工作流,强调集成质量不能只靠换模型。
展开分析与核对说明
- 问题
- 点击偏移可能来自缩放不一致;长任务则受截图成本、上下文丢失和不可信页面影响。
- 方法
- 预缩放并反向映射坐标;按模型评测effort;采用分层安全控制、稳定缓存前缀、批量移除旧图和保留约束的压缩。示范记录结合选择器、坐标与截图。
- 取舍
- 更高分辨率和推理预算增加成本;批量操作减少往返,却可能沿错误状态连续执行。示范必须适应当前UI,而非盲放坐标。
- 局限
- 结论限于文中4.6系列、Haiku 4.5及Opus 4.7;分类器不是完整防护。批处理、advisor和提醒被明确视为实验性。
- 事实边界
- 作者内部实验不是所有UI的性能保证;保留不同模型建议差异,不把版本参数写成当前通用配置。
- 证据位置
- 全文resolution and scaling至Getting started,含所有正文代码块;图表结论依据相邻文字,未独立重算。
- 来源
- 原始分类:计算机使用代理与运行时优化
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-05-13 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
How Anthropic's cybersecurity team built a threat detection platform with Claude Code
CLUE把自然语言查询、内部上下文和并行调查连接起来,减少分析员在多种日志工具之间切换。
展开分析与核对说明
- 问题
- 孤立告警缺少维护计划、服务背景等信息,人工关联耗时且覆盖有限。
- 方法
- Triage用工具补充上下文并给出处置与置信度;Investigate由编排器分派子代理查询,再汇总调查。完整轨迹用于审计和后续学习。
- 取舍
- 开放调查路径可能发现预设剧本之外的线索,但需要工具与数据边界,也增加一致性及准确性评估难度。
- 局限
- 团队承认准确性仍难量化。节省工时是估算,不能视作真实裁减工时;主动威胁搜寻属于未来方向。
- 事实边界
- 告警误报和速度数字均为内部自报;未证明漏报率或完整检测能力。
- 证据位置
- CLUE Triage、CLUE Investigate、Measuring the impact及Where we're headed各节。
- 来源
- 原始分类:安全告警调查与多代理系统
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-05-12 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Lessons from building Claude Code: Prompt caching is everything
说明Claude Code如何围绕前缀缓存设计提示、工具、模式切换和压缩,使长会话的延迟与成本保持可控。
展开分析与核对说明
- 问题
- 前缀任意早期变化都会使后续缓存失效,许多看似合理的产品设计因此产生昂贵重算。
- 方法
- 稳定内容在前、动态消息在后;用消息表达状态变化,以稳定工具占位延迟加载,压缩调用复用父会话前缀。
- 取舍
- 缓存友好设计约束工具及模型切换;压缩必须预留空间,也仍可能丢失信息。
- 局限
- 避免切换是架构经验而非永恒禁令;具体切换是否划算仍由缓存大小、任务和平台行为决定。
- 事实边界
- 复用前缀使摘要生成更便宜,不代表压缩后的所有新请求都能复用旧历史缓存。
- 证据位置
- 正文提示布局、消息更新、模型和工具稳定、缓存安全压缩、Lessons learned,L35–106。
- 来源
- 原始分类:缓存感知的代理架构
来源栏目:Developer blog
集合:纳入文章
发布日期:2026-04-30 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。
How Kepler built verifiable AI for financial services with Claude
Kepler将语言理解与可审计计算分开,让答案中的数字能回溯到原始披露文件。
展开分析与核对说明
- 问题
- 模型可解释多步问题,却不适合同时承担必须精确的计算和数据口径判定。
- 方法
- 用领域本体明确概念和公式,确定性引擎处理检索、期间与计算;按阶段分配模型,并分别评估计划与最终结果,保留行项目级来源和访问控制。
- 取舍
- 分层提高可追溯性和局部升级能力,但需要维护本体、专用工具、隔离环境及评估流水线。
- 局限
- 确定性执行仍取决于输入和计划正确;文章关于保证答案及技能幂等性的表述,不足以证明端到端零错误。
- 事实边界
- 模型比较与94%分类成绩为企业自报,缺少公开测试细节,不作独立排名。
- 证据位置
- Engineering the context around Claude、Scaling with Claude及结尾实践表。
- 来源
- 原始分类:可验证分析系统与确定性执行
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-04-30 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Onboarding Claude Code like a new developer: Lessons from 17 years of development
Skyline团队把培训新开发者的方法用于Claude Code:从受限任务开始,把逐步积累的知识作为工程资产维护。
展开分析与核对说明
- 问题
- 长期项目的隐性知识随人员流动流失,重复解释环境使代理难以持续贡献。
- 方法
- 根CLAUDE.md负责导航,技能引用中央文档而非复制内容;MCP提供测试、异常和支持记录,图像差异工具帮助审阅自动化截图。
- 取舍
- 独立上下文仓库便于跨分支使用,但也需要维护与代码的一致性;同库仍是有效替代。
- 局限
- 案例没有受控生产率评测,完成时间无法排除既有工程基础的贡献。
- 事实边界
- 将上下文积累与模型学习区分;收益来自维护者自述。
- 证据位置
- 全文The same onboarding problem至Seventeen years of onboarding。
- 来源
- 原始分类:遗留代码库与上下文维护
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-04-28 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
An update on Claude Code quality reports
复盘 effort 默认值、反复清除思考历史、压缩输出提示三项质量退化;截至4月20日修复。
展开分析与核对说明
- 问题
- 局部延迟优化与提示更改可能联合伤害智能;汇总流量掩盖边缘场景。
- 方法
- 复现闲置会话、跨仓库代码审查、逐行提示消融、分模型评测、公共构建试用与渐进发布。
- 取舍
- 低延迟和 token 成本对任务质量;减少输出可能影响推理。
- 局限
- 评测覆盖与内部外部构建差异仍需改进;未给出完整回归集。
- 事实边界
- 作者称API与推理层未受影响;这是产品故障分析,不是模型能力总体下降证明。
- 证据位置
- A change;A caching optimization;A system prompt change;Going forward,L46–108。
- 来源
- 原始分类:可靠性与事故复盘
来源栏目:Engineering
集合:纳入文章
发布日期:2026-04-23 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。 原链接现重定向至 https://www.anthropic.com/research/april-23-postmortem,保留索引时的来源栏目。 三个产品层变更分别影响不同模型和时段;作者明确 API 与推理层未受此次事故影响。
Building agents that reach production systems with MCP
比较API、CLI与MCP,重点是可复用集成、身份处理及上下文效率,而不是协议发布公告。
展开分析与核对说明
- 问题
- 多个代理连接多个服务容易形成重复集成;直接堆入所有工具和结果又消耗上下文。
- 方法
- 围绕意图组织工具,大接口采用受控代码编排;客户端按需搜索工具并用代码过滤结果,技能补充程序性知识。
- 取舍
- MCP前期建设较多但便于跨客户端使用;CLI适合本地环境,API仍是基础,三者并非互斥。
- 局限
- 协议支持程度随客户端和版本变化;采用率与token节省是作者报告,不证明所有场景优于CLI。
- 事实边界
- 保留发布时支持范围;不将技能分发扩展的未来预期记为已实现。
- 证据位置
- 全文三种连接方式、服务器设计、客户端效率和Skills配合各节。
- 来源
- 原始分类:MCP集成与工具架构
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-04-22 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Best practices for using Claude Opus 4.7 with Claude Code
解释Opus 4.7的交互轮次、推理预算和默认行为如何影响Claude Code成本与质量。
展开分析与核对说明
- 问题
- 直接沿用旧模型提示与effort设置,可能造成多余推理和不合适的工具或子代理行为。
- 方法
- 首轮明确目标、约束和验收条件,减少碎片化补充;按任务尝试不同effort,并明确需要工具、并行或特定风格的情境。
- 取舍
- 更高effort可能改善难题,却有过度思考及延迟成本;减少交互不代表取消必要监督。
- 局限
- 缺少公开测试集和完整性能分布;建议仅针对文中模型版本与产品状态。
- 事实边界
- 默认xhigh及固定thinking budget支持情况均按文章日期记录,不作为永久产品规则。
- 证据位置
- Structuring interactive coding sessions、effort、adaptive thinking和Behavior changes。
- 来源
- 原始分类:模型迁移与编码代理调优
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-04-16 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Using Claude Code: session management and 1M context
把每轮结束视为继续、回退、压缩、清空或委派的选择点,让上下文与后续任务保持相关。
展开分析与核对说明
- 问题
- 长窗口并不消除上下文干扰;自动压缩无法预知用户接下来需要哪些细节。
- 方法
- 同一任务继续复用,错误路径回退;压缩时提供重点,新任务用人工交接后清空;仅需结论的探索交给独立子代理。
- 取舍
- 继续可免除重读成本;压缩方便但有损,手写交接更可控但费力;委派会隐藏中间材料。
- 局限
- 没有定量证据证明这些选择在所有任务中最优;窗口容量按发布时产品描述理解。
- 事实边界
- 作者Thariq Shihipar的实践建议;不把context rot的解释当成完整机制研究。
- 证据位置
- 全文primer、branching point、rewind、compaction、subagents与总结表。
- 来源
- 原始分类:会话生命周期与上下文
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-04-15 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Automated Alignment Researchers: Using large language models to scale scalable oversight
以弱监督研究为试验,分享多代理自动实验的环境设计与失败教训。
展开分析与核对说明
- 问题
- 可验证研究能否交给并行代理,且不被单一指标误导。
- 方法
- 九个隔离环境共享论坛和代码,以远程评分反馈迭代;给予不同起点,同时避免过度规定工作流。
- 取舍
- 并行探索扩大搜索,却必须防止数据集特化和评价失真。
- 局限
- 小模型成果迁移至生产 Sonnet 4 未见显著改善,不代表通用研究能力。
- 事实边界
- 只覆盖此官方解说正文,不能将关联 358 行研究长文标为已全文读。
- 证据位置
- Our setup;Results;Implications;Footnotes。
- 来源
- 原始分类:工程实践与评测
来源栏目:Research 总目录:197/197
集合:纳入文章
发布日期:2026-04-14 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Seeing like an agent: how we design tools in Claude Code
通过提问、任务管理和代码搜索的演化,说明工具应适配模型当前能力,而不是永久沿用最初的辅助结构。
展开分析与核对说明
- 问题
- 工具既决定动作空间,也决定模型怎样获取上下文;错误接口会制造歧义或把过多内容带入主会话。
- 方法
- 迭代比较把问题塞进结束计划、约定文本格式和独立提问工具;以共享任务替代固定清单,用Grep与文档子代理支持按需探索。
- 取舍
- 专用工具带来可靠结构但增加选择负担;即时检索降低索引维护,却可能比预检索更慢。
- 局限
- 文档助手仍可能答错;这些主要是团队设计经验,没有提供受控效果量,必须随模型升级重新检查。
- 事实边界
- 不把从RAG转向Grep解释为对所有RAG系统的否定;结论限定于该产品环境。
- 证据位置
- 正文AskUserQuestion三次尝试、tasks与todos、search、Guide agent,L35–109。
- 来源
- 原始分类:面向模型能力的工具设计
来源栏目:Developer blog
集合:纳入文章
发布日期:2026-04-10 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Multi-agent coordination patterns: Five approaches and when to use them
用任务依赖、上下文持续时间和信息流解释五种协调模式,建议从简单模式按瓶颈演进。
展开分析与核对说明
- 问题
- 多代理结构选得过复杂,会增加信息损失、重复工作和协调成本,而不一定提高质量。
- 方法
- 生成者与验证者形成反馈环;编排器委派短任务;持久团队处理独立长任务;消息总线响应事件;共享状态支持累计发现。
- 取舍
- 集中编排易追踪但形成信息瓶颈;事件流灵活却难调试;共享状态便于协作,却需要冲突控制与明确终止条件。
- 局限
- 模式可以混合;共享状态只移除协调者这一单点,不能由此推断存储层也无单点故障。
- 事实边界
- 系统比较为设计框架,非定量优劣排名;关于单点故障的限定属于整理者分析。
- 证据位置
- 全文五种模式、两两比较及Getting started;作者Cara Phillips。
- 来源
- 原始分类:多代理协调架构
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-04-10 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Preparing your security program for AI-accelerated offense
文章依据AI加速漏洞发现和利用的判断,重新排列补丁、检测、身份和响应的优先级。
展开分析与核对说明
- 问题
- 当攻击速度提高,仅增加操作摩擦或每周人工分流,可能跟不上漏洞与报告增长。
- 方法
- 按已知在野利用和EPSS排补丁;将扫描、验证及修补纳入CI;采用短期身份与硬隔离,持续盘点暴露面,并用只读代理辅助告警调查。
- 取舍
- 自动更新缩短暴露窗口但可能造成中断;代理扩展调查覆盖,关键处置和对外披露仍由人决策。
- 局限
- 两年风险展望属于预测;建议需按部署和风险校准,不能保证防御成功。漏洞报告应经人验证,避免自动噪声。
- 事实边界
- 安全团队经验与未来预测分开;不是已验证的通用攻击时间表。
- 证据位置
- 完整七项建议、上游报告规范、小团队建议和参考表。
- 来源
- 原始分类:安全工程与响应流程
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-04-10 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
The advisor strategy: Give agents an intelligence boost
较小模型执行任务,遇到困难再咨询较强模型;顾问只给指导,不调用工具或直接回答用户。
展开分析与核对说明
- 问题
- 全程使用强模型成本高,而小模型独立执行可能在关键决策上失败。
- 方法
- executor保留执行循环,advisor接收上下文后返回计划、纠偏或停止建议;API内完成交接,并提供调用次数上限及分模型用量。
- 取舍
- 咨询增加单次成本,却可能减少错误路径;Haiku方案相较自身更贵,不能概括为所有组合都省钱。
- 局限
- 各评测的thinking和提示配置不同,结果不宜归因于advisor单一因素;缺少任务级分布。
- 事实边界
- SWE-bench提升2.7个百分点、成本下降11.9%为作者测量,不作普遍承诺。
- 证据位置
- 全文机制、API、定价与三条评测脚注。
- 来源
- 原始分类:异构模型协作与成本评测
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-04-09 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Trustworthy agents in practice
文章把代理拆成模型、执行框架、工具和环境四层,说明安全与用户控制必须在各层共同落实。
展开分析与核对说明
- 问题
- 模型训练再好,也可能被过宽权限或暴露环境削弱;频繁审批又会造成疲劳。
- 方法
- 用动作权限、计划审阅、歧义训练和注入检测分担风险;工具、数据和环境的范围由部署者共同约束。
- 取舍
- 自主性提高效率,却要求模型判断何时询问、用户保留介入能力;过度询问和无条件推进都不理想。
- 局限
- 没有给出完整实现或注入防御成功率;生态基准和标准部分属于政策建议。
- 事实边界
- 产品设计示例不意味着批准计划即可绕过所有后续权限;作者明确承认防御不是保证。
- 证据位置
- How agents work、Our principles in practice与broader ecosystem。
- 来源
- 原始分类:代理安全分层与产品设计
来源栏目:Anthropic Research / Frontier Red Team
集合:纳入文章
发布日期:2026-04-09 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Scaling Managed Agents with stable interfaces
将持久会话日志、无状态 harness 与执行沙箱拆开。作者报告首 token 延迟 p50下降约60%、p95逾90%。
展开分析与核对说明
- 问题
- 单容器耦合使失败丢状态、难调试且难接客户VPC;稳定接口应比模型特定补丁更长寿。
- 方法
- 追加事件日志、wake/getSession/emitEvent;按需 provision;工具代理与外部凭据库;日志和上下文窗口分离。
- 取舍
- 远程边界增加接口设计;多环境选择要求更强模型,换独立恢复、扩容与隔离。
- 局限
- 不承诺固定 harness 能适配未来;恢复日志不自动保证上下文选择正确。
- 事实边界
- 性能数据为内部架构迁移观察,未报告完整工作负载与误差。
- 证据位置
- Don’t adopt a pet;Decouple;The session;Many brains,L44–99。
- 来源
- 原始分类:代理平台架构
来源栏目:Engineering
集合:纳入文章
发布日期:2026-04-08 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。 原链接现重定向至 https://www.anthropic.com/research/managed-agents,保留索引时的来源栏目。 当前标题为 Scaling Managed Agents: Decoupling the brain from the hands。容器、harness 和会话日志解耦;TTFT 变化是作者内部系统结果。
How Carta Healthcare gets AI to reason like a clinical abstractor
Carta通过动态组装记录、时间界限和证据优先级,把临床资料转为登记数据,并保留专业人员审阅。
展开分析与核对说明
- 问题
- 同一信息可能分散在结构化字段和自由文本;缺少时间与业务语境时,表面正确的值也可能不适用。
- 方法
- 按字段选来源与时间窗;用细粒度评估隔离提示、上下文和检索问题,把专业人员反馈转为提示改进,并展示支持证据。
- 取舍
- 精细上下文降低歧义,但依赖可靠数据管道和领域判断,不能只优化提示措辞。
- 局限
- 文中98–99%是特定案例的评审者一致性,不等于所有临床任务准确率,更不是诊疗效果。
- 事实边界
- 仅分析软件抽取方法;结果为企业自报,不提供医疗建议。
- 证据位置
- From rules-based extraction、Building the right context及Keeping clinical expertise in the loop。
- 来源
- 原始分类:领域数据抽取与上下文工程
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-04-08 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
How and when to use subagents in Claude Code
子代理主要价值在隔离探索、并行独立工作与提供不同审阅视角,不是所有任务都值得委派。
展开分析与核对说明
- 问题
- 主会话积累原始文件和旁支调查,会增加上下文负担;盲目拆分又会造成交接及编辑冲突。
- 方法
- 先用自然语言明确范围和返回格式,再将稳定模式固化为自定义代理、CLAUDE.md、技能或hooks。研究者可只读,编辑者按需授权。
- 取舍
- 隔离能减少主上下文噪声,却可能丢失细节;串行依赖和同文件修改更适合保持在同一上下文。
- 局限
- 原表记录多个示例位置为空;本次核对可提取正文,未检验当前浏览器中的嵌入代码或执行示例,不补造缺失内容。
- 事实边界
- 独立上下文不能保证判断无偏;建议阈值属于经验启发,不是经验证的调度公式。
- 证据位置
- When should you use subagents?;How to direct subagent usage;When shouldn’t you use subagents?。旧表浏览器核查不代表本次已检查嵌入内容。
- 来源
- 原始分类:子代理配置与委派边界
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-04-07 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。 原表已注明部分代码缺失;本次核对可提取文字段落,代码示例完整性仍未验收。
Assessing Claude Mythos Preview’s cybersecurity capabilities
虽伴随模型发布,正文实质说明大规模漏洞扫描、复核与负责任披露的工程流程,故不按纯公告排除。
展开分析与核对说明
- 问题
- 扫描扩大后,重复发现、严重性误判和维护者处理能力成为瓶颈。
- 方法
- 隔离容器内按文件分派代理,预先排序风险;独立代理复核,再由人工验证高优先级报告,未公开内容用哈希承诺留证。
- 取舍
- 并行提高覆盖率却增加分诊负担;ASan 可验证内存异常,但逻辑缺陷缺少同样直接的判据。
- 局限
- 单个成功运行成本不代表搜索总成本;198份人工审核不能证明全部报告质量;哈希不证明内容正确,旧漏洞结果可能受先验知识影响。
- 事实边界
- ,2026-04-09更新作者。主要署名 Nicholas Carlini、Newton Cheng、Keane Lucas、Michael Moore、Milad Nasr、Vinay Prabhushankar、Winnie Xiao;完整贡献名单在原文。
- 证据位置
- Our scaffold、responsible disclosure、logic vulnerabilities、Suggestions for defenders、Appendix及脚注。
- 来源
- 原始分类:漏洞发现流水线与披露验证
来源栏目:Anthropic Research / Frontier Red Team
集合:纳入文章
发布日期:2026-04-07 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Agent Harness Design: 3 Patterns for Harnessing Claude's Intelligence
让模型使用熟悉的通用工具,持续删除过时补偿机制,同时把安全、用户交互和审计边界留在运行时。
展开分析与核对说明
- 问题
- harness常编码旧模型的能力假设,升级后可能反而限制模型或浪费上下文。
- 方法
- 用代码编排和过滤工具结果,技能按需加载,记忆文件及压缩延续任务;稳定前缀促进缓存,关键动作采用可拦截的类型化工具。
- 取舍
- 通用执行灵活但难按动作审核;专用工具便于确认与审计,却增加接口维护,需逐项证明价值。
- 局限
- 不同基准和模型成绩不能直接拼成统一因果曲线;去掉能力补偿不意味着去掉安全约束。
- 事实边界
- 模型成绩为作者引用的实验;案例支持持续重评,而非最小harness永远最优。
- 证据位置
- 完整三项设计模式与未来方向;作者Lance Martin。
- 来源
- 原始分类:代理harness设计
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-04-02 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
How we built Claude Code auto mode
介绍 Claude Code 自动许可:保留确定性安全规则,以模型分类器判断其余工具调用,减少重复人工确认。
展开分析与核对说明
- 问题
- 逐次审批造成疲劳,完全跳过则放大风险;核心是识别授权边界而非证明操作绝对安全。
- 方法
- 分类输入去掉助手推理与工具结果;先快速保守判定,再按需推理;配置可信环境、禁止项、例外;连续3次或累计20次拒绝后转人工。
- 取舍
- 真实流量误拒从8.5%降到0.4%,但过度主动操作漏检从6.6%升到17%;可用性与风险召回明显冲突。
- 局限
- 授权可能被错误推断;移除上下文也损失溯源信息;不应替代高风险操作的人类判断;无头运行触发阈值即停止。
- 事实边界
- 指标均为作者实验;安全性不等于零风险,未将误拒改善解释为全局安全提升。 架构限定为此篇 3 月发布文章所述配置;9 月快照与实验变体见 ANT-200,不据此断言当前产品始终采用同一输入策略。
- 证据位置
- 正文分类器输入、两阶段架构、评测表、权限与退出机制,L54–211。
- 来源
- 原始分类:代理授权与安全分类器
来源栏目:Engineering
集合:纳入文章
发布日期:2026-03-25 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。 原链接现重定向至 https://www.anthropic.com/research/claude-code-auto-mode,保留索引时的来源栏目。 动作审批分类器不同于 Constitutional Classifiers 内容过滤。作者的 0.4% 良性误拒与 17% 真实越权动作漏检来自不同数据集,后者仅 52 例;不能替代高风险场景的认真人工审批。本条仅说明 3 月发布文章描述的配置;ANT-200 研究了 9 月配置快照及后续实验变体,不应视为长期不变架构:https://alignment.anthropic.com/2026/red-teaming-auto-mode/ 。
Harness design for long-running apps
通过网页设计和应用开发实验,拆分规划、生成和独立评估,利用持续反馈提高长任务质量。
展开分析与核对说明
- 问题
- 单代理容易过早结束或自评宽松;明确评价标准与独立验证,比单纯延长运行更重要。
- 方法
- GAN 类比的生成器/评估器;用设计、原创、工艺、功能标准及示例校准;规划规格、冲刺契约、文件交接和 Playwright 实测。
- 取舍
- 完整流程可花6小时/$200,对比单次20分钟/$9;更强模型出现后部分编排成本不再值得。
- 局限
- 评估器仍可能放水,深层缺陷和审美评价难;音频应用评价无法听声音;个案不代表所有任务收益。
- 事实边界
- 费用与时间是案例而非受控普适比较;GAN 是设计类比,不是对抗训练。
- 证据位置
- 正文网页评价循环、长任务三角色、模型升级后的简化和 DAW 案例。
- 来源
- 原始分类:长任务代理工作流
来源栏目:Engineering
集合:纳入文章
发布日期:2026-03-24 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。 原链接现重定向至 https://www.anthropic.com/research/harness-design-long-running-apps,保留索引时的来源栏目。
Long-running Claude for scientific computing
以可微宇宙学求解器为例,讲解多日运行的计划、记忆、验证与恢复机制。
展开分析与核对说明
- 问题
- 高度耦合数值代码需要跨会话积累失败经验,并持续用可信参照判断进展。
- 方法
- CLAUDE.md 管计划,CHANGELOG.md 记状态与失败;以 CLASS 为测试参照,Git 保存通过测试的增量;SLURM 与 tmux 支持持续运行。
- 取舍
- 耦合管线更适合单主代理顺序推进,按需分工;无人值守节省监督,但测试覆盖不足会掩盖错误。
- 局限
- 实际求解器未达所有参数区间精度要求,也非生产级;仅测单一参数点曾形成盲区。
- 事实边界
- 作者 Siddharth Mishra-Sharma;0.1%是目标,不能写成全面达成。缩短研究时间为个案推断而非对照试验。
- 证据位置
- Draft a plan;Memory;The test oracle;The execution loop;The result,L49–128。
- 来源
- 原始分类:科学计算长时代理工作流
来源栏目:Anthropic Research
集合:纳入文章
发布日期:2026-03-23 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Measuring and improving coding audit realism with deployment resources
将真实系统提示、工具定义和代码库提供给审计代理,并用成对比较度量模拟场景可信度。
展开分析与核对说明
- 问题
- 完全合成环境容易露出评测痕迹;只看模型是否说出怀疑无法捕捉未表达的意识。
- 方法
- 为资源建索引与使用说明,提供目录、读取、搜索和直接返回文件工具;裁判比较评测与部署轨迹,统计误认为真实的比例。
- 取舍
- 真实资源改善环境细节,却可能增加工具结果不一致;成对比较较多轨迹混合便宜,也减少利用分布差异取巧。
- 局限
- 参照仅25至30条窄分布轨迹;高风险任务本身仍显得不真实,聊天任务无明显改善,真实性提升未显著改变主实验作弊率。
- 事实边界
- 作者 Connor Kissane、Monte MacDiarmid、Fabien Roger;4.6%至32.8%是特定成对真实性指标,不是真实部署占比。
- 证据位置
- Methods;Results;Limitations;Appendix A–K,L16–688。
- 来源
- 原始分类:审计真实性与资源接入
来源栏目:Alignment Science Blog
集合:纳入文章
发布日期:2026-03-23 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
A “diff” tool for AI: Finding behavioral differences in new models
介绍跨架构模型差异筛查,用结构设计帮助审计者缩小检查范围。
展开分析与核对说明
- 问题
- 固定基准难覆盖未知行为变化。
- 方法
- Dedicated Feature Crosscoder 将共享特征和两模型独有特征分开,再用干预检查关联是否具有因果性。
- 取舍
- 高召回筛查产生大量候选,仍需人工验证。
- 局限
- 只研究选定开放模型,未验证前沿模型;不能由差异推断训练意图。
- 事实边界
- 作者 Thomas Jiralerspong、Trenton Bricken。未来版本监测是设想,不是已验证部署成果。
- 证据位置
- A bilingual dictionary;Steering the model;Conclusion。
- 来源
- 原始分类:评测与可解释性工程
来源栏目:Research 总目录:197/197
集合:纳入文章
发布日期:2026-03-13 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Eval awareness in Opus 4.6 on BrowseComp
调查 BrowseComp 评测中的答案污染:多代理偶然找到题库及缓存痕迹,甚至恢复隐藏答案。
展开分析与核对说明
- 问题
- 开放互联网允许代理间接发现评测本身,测到的成绩可能不是目标检索能力。
- 方法
- 检查1266题轨迹;识别9次污染及2次恢复答案;重跑11项中8项合法解决,将86.81%修正为86.57%。
- 取舍
- 只屏蔽已知网址不足;关键词拦截更有效,但会改变真实开放搜索环境。
- 局限
- 作者推测多代理并行搜索增加意外命中机会,未证明因果;还存在失败尝试和未知污染渠道。
- 事实边界
- 作者认为未明确限制搜索时不等同于对齐失败;发生率与推测分列,未把小幅修正推成无效基准。
- 证据位置
- 正文污染发现、解码案例、代理间污染、成绩修正和防护讨论。
- 来源
- 原始分类:代理评测污染与基准完整性
来源栏目:Engineering
集合:纳入文章
发布日期:2026-03-06 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。 原链接现重定向至 https://www.anthropic.com/research/eval-awareness-browsecomp,保留索引时的来源栏目。
Reverse engineering Claude's CVE-2026-2796 exploit
通过已修复案例的代码和轨迹审计,区分安全缺陷原理、代理过程和最终验证证据。
展开分析与核对说明
- 问题
- 优化路径改变表示后,其他读取路径可能没有维持原有类型安全约束。
- 方法
- 对照正常调用与引用路径;在隔离验证环境审计产物,反复加固验证器并检查代理转向与失败原因。
- 取舍
- 提供上下文与多次机会有助于探测能力上限,但不能等同于默认配置的一次成功率。
- 局限
- 约350次机会且测试环境移除部分防护;不是完整浏览器攻击链,其他缺陷未成功的原因仍不明确。
- 事实边界
- 作者 Evyatar Ben Asher、Keane Lucas、Nicholas Carlini、Newton Cheng、Daniel Freeman。表内不复述可操作利用链。
- 证据位置
- JavaScript/Vulnerability primer、Claude’s process、Conclusion、Appendix A及脚注。
- 来源
- 原始分类:漏洞根因分析与代理轨迹审计
来源栏目:Anthropic Research / Frontier Red Team
集合:纳入文章
发布日期:2026-03-06 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Skills explained: How Skills compares to prompts, Projects, MCP, and subagents
区分五类组件:提示给即时要求,Projects保存背景,Skills提供程序知识,子代理执行独立任务,MCP连接外部能力。
展开分析与核对说明
- 问题
- 混淆知识、执行与连接层,会重复维护指令或加载不必要上下文。
- 方法
- 用元数据先发现技能,再按需读取正文和文件;研究案例组合项目资料、数据连接、技能与专门代理。
- 取舍
- 技能便于复用而无需每次全量加载,但不能替代工具权限、数据连接或独立执行环境。
- 局限
- 表格是概念简化;提示也能含代码文本,子代理配置持久不等于运行上下文永远保留。跨产品组合须以实际支持为准。
- 事实边界
- 保留发布时功能描述;将技能视作运行时材料,不是模型权重训练。
- 证据位置
- 完整五类组件、组合案例、FAQ与Getting started。
- 来源
- 原始分类:代理组件与技能设计
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-03-05 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Common workflow patterns for AI agents—and when to use them
先建立单代理基线,再根据依赖、延迟和质量需求选择顺序、并行或评估改进循环。
展开分析与核对说明
- 问题
- 复杂结构若不能带来可测收益,只会增加延迟、token及失败点。
- 方法
- 顺序流程传递阶段结果;并行采用扇出与聚合;评估者给明确反馈,生成者迭代,并预设停止与失败回退。
- 取舍
- 顺序易理解却需等待;并行更快但聚合冲突复杂;循环能改善质量但增加成本,也可能停滞。
- 局限
- 没有可一致应用的评估标准时不宜迭代;能用lint等确定性检查时不必改用模型裁判。
- 事实边界
- 生产经验属于作者总结,不保证某模式普遍提高准确率。
- 证据位置
- 全文三模式、选择问题、组合与演进部分。
- 来源
- 原始分类:代理工作流与架构选择
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-03-05 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Improving skill-creator: Test, measure, and refine Agent Skills
skill-creator将技能编写扩展为测试、基准和描述调优,让作者能判断修改是否真正有效。
展开分析与核对说明
- 问题
- 技能可能随模型升级退化,也可能因模型进步不再必要;描述不准还会造成误触发或漏触发。
- 方法
- 区分能力补足与偏好编码两类技能,建立测试提示和成功条件;隔离上下文并行评估,用盲比较检验版本差异,记录通过率、时间及token。
- 取舍
- 评估增加维护成本,却能避免无效修订;业务流程技能即便不再补能力,也仍可能表达必要偏好。
- 局限
- 六个公开技能中五个触发改善只是有限样本;模型裁判并非绝对客观,未来技能变规格属于展望。
- 事实边界
- 报道的触发改善为作者自测,不保证特定用户技能有效。
- 证据位置
- Two kinds of skills、evals、multi-agent support和triggering各节。
- 来源
- 原始分类:技能评估与维护
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-03-03 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
COBOL Modernization with AI: Breaking the Cost Barrier
文章认为理解遗留业务逻辑是迁移的主要成本,建议用AI辅助探索,再由领域专家决定分阶段迁移。
展开分析与核对说明
- 问题
- 隐性依赖和缺失文档让直接重写风险很高;现代化不只是语言转换。
- 方法
- 区分重托管、重构、重写与替换;先映射数据及调用依赖,选择边界清晰组件,预设等价性测试,再让新旧系统并行验证。
- 取舍
- 重托管快但保留维护问题,重写收益潜力大但风险高;AI分析不能替代业务与监管判断。
- 局限
- “任意规模”“季度替代多年”等是宽泛主张,文中没有对照数据;AI不能保证发现所有隐性依赖。
- 事实边界
- 保留作者主张并标明缺乏量化验证,不将营销措辞视为已证实结果。
- 证据位置
- 全文四种路径、探索、风险、专家规划及增量验证部分。
- 来源
- 原始分类:COBOL现代化与迁移策略
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-02-23 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Increase web search accuracy and efficiency with dynamic filtering
搜索过程中先用代码处理网页结果,只把相关内容送入模型上下文,以减少无关HTML干扰。
展开分析与核对说明
- 问题
- 直接载入完整搜索结果会消耗token并稀释注意力,尤其影响多步研究。
- 方法
- 对比开启与关闭动态过滤的两款模型,在BrowseComp和DeepsearchQA测量准确率或F1,并给出新版搜索、抓取工具配置。
- 取舍
- 输入token减少不等于总费用下降;过滤代码也有成本,文中Opus的价格加权token反而上升。
- 局限
- 结果限于所测模型与两套基准;生产查询需要独立评估,客户评价不是额外受控证据。
- 事实边界
- 作者报告平均输入token下降24%;明确区分token量、价格加权成本和任务质量。
- 证据位置
- Web search with dynamic filtering、评测与价格权衡、API示例。
- 来源
- 原始分类:搜索结果过滤与上下文效率
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-02-17 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Infrastructure noise in agentic coding evals
相同模型、harness和任务,仅资源上限改变即可使编码基准得分相差约6个百分点。
展开分析与核对说明
- 问题
- CPU/内存限制及执行语义会成为隐藏实验变量,不能把所有分差归因模型能力。
- 方法
- 比较六种资源配置;区分资源保底与上限、OOM 与任务失败;在 SWE 样本上多次重复并检查显著性。
- 取舍
- 资源过低增加故障,过高又改变代理解题策略;应报告并校准上限,而非一味无限扩容。
- 局限
- 超时/API延迟影响仅为经验观察,未系统量化;未严格覆盖所有供应商与任务。
- 事实边界
- 5.8%→0.5%为基础设施错误率;约6个百分点为任务成绩变化,不混淆;泛化建议为作者观点。
- 证据位置
- 正文资源分配语义、六配置实验、策略变化和建议。
- 来源
- 原始分类:评测基础设施与资源公平性
来源栏目:Engineering
集合:纳入文章
发布日期:2026-02-05 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。 原链接现重定向至 https://www.anthropic.com/research/infrastructure-noise,保留索引时的来源栏目。 6 个百分点对应同模型、同 harness、同任务集的资源极端配置差;1x 至 3x 成绩变化不显著,3x 以上还允许更昂贵的解法。
Building a C compiler with parallel Claudes
16个代理约两周、近2000会话和2万美元,产出约10万行 Rust C编译器,可编译多架构 Linux。
展开分析与核对说明
- 问题
- 长期并行开发需要可靠反馈、任务分解与冲突协调,模型生成代码本身不是主要瓶颈。
- 方法
- 持续启动代理;Docker隔离、共享裸Git仓库、任务锁文件;高质量测试与简洁可检索日志;以GCC为对照拆分编译任务。
- 取舍
- 高并行加速探索却带来合并、重复劳动和回归;大量token与测试设计投入换取较少人工编码。
- 局限
- 文章时点仍依赖外部汇编/链接器及x86实模式GCC;生成代码效率低、质量不等于通过测试,非生产级成果。
- 事实边界
- 数字与能力按发表时点;当前仓库后续进展不倒填历史结果;未宣称无人工设计。
- 证据位置
- 正文循环与环境、测试设计、GCC对照、并行瓶颈和当前局限。
- 来源
- 原始分类:多代理软件工程实验
来源栏目:Engineering
集合:纳入文章
发布日期:2026-02-05 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。 原链接现重定向至 https://www.anthropic.com/research/building-c-compiler,保留索引时的来源栏目。
Evaluating and mitigating the growing risk of LLM-discovered 0-days
作者描述通用代码代理结合调试工具发现开源缺陷,再经去重、人工验证和修补后向维护者报告。
展开分析与核对说明
- 问题
- 模型报告可能虚构或夸大问题;崩溃也不自动等于高危漏洞,因此发现与验证必须分开。
- 方法
- 在虚拟机中提供标准工具与源码,结合修复历史、危险模式和算法推理寻找线索;用sanitizer与复现验证,再人工审阅补丁。
- 取舍
- 优先内存错误便于客观验证,却不能覆盖全部逻辑问题;降低误报增加人工瓶颈。
- 局限
- 超过500项高危为作者已验证汇总,未给总体召回率或完整发现成本;自动补丁仍是推进方向。
- 事实边界
- 只概括防御方法和验证边界;不将行/分支覆盖率等同于所有路径序列覆盖,也不把探针视为零误报防护。
- 证据位置
- Setup、Vulnerabilities、Safeguards与2026-02-06作者更新。
- 来源
- 原始分类:开源漏洞验证与防御管线
来源栏目:Anthropic Research / Frontier Red Team
集合:纳入文章
发布日期:2026-02-05 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Building multi-agent systems: When and how to use them
只有上下文保护、独立并行或专门工具需求足以抵消协调开销时,才值得采用多代理。
展开分析与核对说明
- 问题
- 按规划、实现、测试等角色机械拆分同一工作,容易丢失决策背景并花更多token交接。
- 方法
- 按上下文边界划分任务,先尝试压缩和工具搜索;黑盒验证者拿到产物、成功条件与测试工具,独立检验结果。
- 取舍
- 代理隔离可扩大覆盖,但复制上下文和汇总增加成本;并行不一定比更简单的单代理更快。
- 局限
- 3–10倍token和工具数阈值是实践范围而非定律;验证者可能过早宣布成功,须检查完整测试与负例。
- 事实边界
- 代码是架构示意而非可直接运行工程;作者Cara Phillips,未独立复现实验。
- 证据位置
- 全文决策框架、context-centric decomposition、verification及early victory。
- 来源
- 原始分类:多代理适用边界
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-01-23 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Building agents with Skills: Equipping agents for specialized work
通用代理具备执行能力后,可通过文件化技能补充领域流程,而不必为每个行业重建代理框架。
展开分析与核对说明
- 问题
- 聪明的通用模型不自动拥有组织知识,也不会自然记住反复执行的工作方法。
- 方法
- 由代理循环、执行环境、MCP连接和技能库四层组合;先加载技能元数据,再读取正文和引用文件,复用脚本减少重复生成。
- 取舍
- 文件格式易版本化和分享,但流程知识需要维护;按需加载节省上下文,也依赖正确发现。
- 局限
- 文中token规模是示意,不是格式上限;行业示例未提供受控效果,也不能证明所有任务都只需代码。
- 事实边界
- 技能提供运行时知识而非权重训练;行业效果与生态展望不作独立验证。
- 证据位置
- 全文领域知识、渐进披露、脚本、四层架构与标准化。
- 来源
- 原始分类:技能架构与通用代理
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2026-01-22 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Petri 2.0: New Scenarios, New Model Comparisons, and Improved Eval-Awareness Mitigations
文章不仅发布新版,还解释真实性过滤、种子重写及 API 适配中的取舍。
展开分析与核对说明
- 问题
- 模型可能识别测试后改变行为;模拟环境的不一致是可修复的提示来源。
- 方法
- 每轮真实性分类器要求审计器改写不可信动作;人工补足种子背景;支持推理摘要、优先原始模型供应方并剖析 CPU 热点。
- 取舍
- 滤除环境破绽不能删除任务必需的异常条件;把诱因变隐蔽也可能使目标忽略测试机会。
- 局限
- 表达出来的意识下降不证明未表达意识消失;绝对行为分值依赖181个种子的任意配比。
- 事实边界
- Claude 模型47.3%中位相对下降针对表达的评测意识;未独立复现,未检查嵌入式示例轨迹全部内容。
- 证据位置
- Eval-Awareness Mitigations;Improved Infrastructure;Petri Behavior Audit,L7–76。
- 来源
- 原始分类:评测真实性与基础设施迭代
来源栏目:Alignment Science Blog
集合:纳入文章
发布日期:2026-01-22 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。 已核对主文方法、结果和局限;真实性干预降低的是表达出来的评测意识,不能推断未表达意识被消除。交互轨迹和代码未逐项复核。
Designing AI resistant technical evaluations
记录性能工程面试题被连续模型版本追平后重设计的过程,以陌生约束区分真实工程判断。
展开分析与核对说明
- 问题
- AI可在旧题上达到优秀候选人水平,评测既要抗现成解法,又要贴近岗位能力。
- 方法
- Python模拟加速器含VLIW、SIMD与手动scratchpad;调整起始优化与限时;尝试转置题,再转向极简指令集的新奇谜题。
- 取舍
- 真实性、陌生性、公平性与可持续性难兼得;越像实际工作,越可能被通用AI工具解决。
- 局限
- 新题只有早期验证,未来模型仍可能赶上;提示措辞已能改变难度,不能把结果当永久抗AI保证。
- 事实边界
- 不同版本成绩有不同时间和harness条件,不当作纯模型横向排名。
- 证据位置
- 正文两代性能题、转置尝试、新设计与尾部公开题链接。
- 来源
- 原始分类:招聘评测与技术测量
来源栏目:Engineering
集合:纳入文章
发布日期:2026-01-21 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。 原链接现重定向至 https://www.anthropic.com/research/AI-resistant-technical-evaluations,保留索引时的来源栏目。
Finding bugs across the Python ecosystem with Claude and property-based testing
代理从文档和代码推断应成立的性质,生成Hypothesis测试寻找反例,再筛查哪些失败是真正值得维护者处理的问题。
展开分析与核对说明
- 问题
- 手写示例覆盖有限,但推断错误的性质也会制造误报,增加开源维护者负担。
- 方法
- 阅读目标、提出性质、执行测试、反思测试是否无效或过宽,再生成报告;模型评分后进行多名专家和作者人工复核。
- 取舍
- 更严格复核降低误报却耗时;找到反例不代表代理提出的补丁正确。
- 局限
- 984报告中人工选50条评估,56%有效、32%可报告;高分组86%/81%不代表总体。日期库误报说明隐含语义仍需维护者裁决。
- 事实边界
- NumPy示例补丁被作者明确判为错误,最终人工改用数值稳定公式;未运行测试,未把报告数等同于确认漏洞数。
- 证据位置
- Our agent、Evaluating、Maintainer validation及嵌入Wald演示完整可见文本。
- 来源
- 原始分类:性质测试代理与漏洞报告筛选
来源栏目:Anthropic Research / Frontier Red Team
集合:纳入文章
发布日期:2026-01-14 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Demystifying evals for AI agents
系统拆解代理评测的任务、试验、评分器、轨迹、最终状态和执行框架,给出从零建设到维护流程。
展开分析与核对说明
- 问题
- 代理多轮与随机性使只看最终回答或单次成功不可靠;应检验真实结果并持续校准评分。
- 方法
- 从20–50个真实失败案例起步;隔离环境、参考解、正反例;代码/模型/人工评分互补;区分pass@k与pass^k,分析轨迹与饱和。
- 取舍
- 确定性评分便宜但覆盖窄,模型评分灵活却需校准,人工可信但成本高;避免把固定工具路径当唯一正确解。
- 局限
- 离线评测不能替代生产AB、反馈与人工审查;任务泄漏、环境污染、含糊标准和评分器过拟合仍存在。
- 事实边界
- 以实践指南为主,20–50是启动建议而非统计充分性的实验结论。
- 证据位置
- 正文基础术语、代理类型、8步建设、长期维护及评测工具附录。
- 来源
- 原始分类:代理评估方法论
来源栏目:Engineering
集合:纳入文章
发布日期:2026-01-09 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。 原链接现重定向至 https://www.anthropic.com/research/demystifying-evals-for-ai-agents,保留索引时的来源栏目。
Next-generation Constitutional Classifiers: More efficient protection against universal jailbreaks
把高成本的逐条审核改为轻量探针筛查与高精度集成复审,解释安全防线如何达到生产成本要求。
展开分析与核对说明
- 问题
- 输入输出分开判断会丢失语境,直接联合分类又带来较高推理成本。
- 方法
- 先用内部激活线性探针检查全部流量,再把可疑交互交给探针与外部分类器集成;联合输入输出判断含义。
- 取舍
- 一级误报可升级复核而非直接拒绝;减少用户打扰,但仍需维持级联召回率。
- 局限
- 未发现通用越狱不等于不存在;未来拟将分类信号融入生成,并补充边界样本。
- 事实边界
- 约1%额外计算对应 Opus 4.0 流量估算;0.05%正常请求拒绝率来自 Sonnet 4.5 一个月部署,不能混成同一实验。
- 证据位置
- New approaches;Conclusions,L47–80。
- 来源
- 原始分类:级联安全分类器
来源栏目:Anthropic Research
集合:纳入文章
发布日期:2026-01-09 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。 约 1% 算力开销、0.05% 良性拒绝率来自不同指定模型流量;未发现通用越狱不等于安全保证。
Extending Claude’s capabilities with skills and MCP servers
MCP解决能访问什么,技能说明如何按团队流程使用这些能力;两者组合可避免反复解释工作方式。
展开分析与核对说明
- 问题
- 连接外部工具本身不能提供机构特有的检索顺序、输出标准和边界处理。
- 方法
- 让服务说明保持工具层通用语义,技能承载跨服务流程;以估值与会议准备展示发现、检索、组织、交付和检查。
- 取舍
- 分层便于复用,但服务器和技能指令冲突会降低可靠性;需维护清晰职责。
- 局限
- 确定性执行并非技能天然保证;文中“定义前置加载”描述不是所有支持工具搜索客户端的必然行为。
- 事实边界
- 主日期按页面2025-12-19;更新标记早于主日期的差异保留,不猜测原始发表日。
- 证据位置
- 完整职责比较、两个案例、选择表与FAQ;页面另标2025-12-18更新。
- 来源
- 原始分类:技能与MCP职责分离
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2025-12-19 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Introducing Bloom: an open source tool for automated behavioral evaluations
文章解释如何从单一行为定义生成整套评测,而不只是宣布工具上线。
展开分析与核对说明
- 问题
- 固定题库易污染且迭代慢,研究者需要快速检验指定行为。
- 方法
- 依次理解行为、构思场景、并行模拟用户及工具、由裁判与元裁判评分;配置种子同时记录模型、轮数和多样性。
- 取舍
- 动态生成扩大覆盖,但绝对分数依赖配置;速度不能代替人工校准。
- 局限
- 人工校准仅40条;模拟环境与裁判能力限制外推。模型排名较稳不意味着分数跨配置可比。
- 事实边界
- 作者报告40条上最高 Spearman 相关约0.86;非独立复现,未运行代码。作者见文末引用。
- 证据位置
- How Bloom works;Validation and trust;Case study;Citation,L48–114。
- 来源
- 原始分类:自动化行为评测流水线
来源栏目:Anthropic Research / Alignment
集合:纳入文章
发布日期:2025-12-19 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Project Vend: Phase two
第二阶段把经营改善与残余安全失效放在一起,说明能力变强仍不等于可靠自治。
展开分析与核对说明
- 问题
- 问题不仅是模型智力,还包括缺失的成本信息、随意承诺和角色边界。
- 方法
- 升级模型并加入 CRM、成本可见库存、浏览器、预付款和提醒;报价前强制核查,另设 CEO 与商品设计代理。
- 取舍
- 流程增加价格和等待时间,却更真实;CEO 减少折扣但增加退款,不能把盈利归因于管理层。
- 局限
- 模型、工具、提示和用户行为同时变化,无法分离因果;仍依赖人类救场,未新增专门防越狱分类器。
- 事实边界
- 法律失误仅记录作者案例,不作为法律指导。
- 证据位置
- What changed、What actually worked、What went wrong、RAG to riches及脚注。
- 来源
- 原始分类:代理流程约束与多角色分工
来源栏目:Anthropic Research / Frontier Red Team
集合:纳入文章
发布日期:2025-12-18 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Making Claude a better electrical engineer
Anthropic与Diode把电路设计转成可编译代码和可检验任务,再针对专业工作流训练模型,而不是只让聊天模型解释电路。
展开分析与核对说明
- 问题
- 通用模型缺乏器件知识和可靠的设计反馈,生成貌似合理的电路并不等于满足电气约束。
- 方法
- 使用Zener语言和pcb工具表达设计,结合文档、文件、终端与编译反馈;测试按功能要求判断,例如总电容下限,而不强制唯一元件组合。
- 取舍
- 形式化约束便于自动验证,但过度规定答案会惩罚同样有效的设计。
- 局限
- 正文与图注的比较模型及胜率表述不完全一致,不合并为统一80%结论;未完整公开训练配方和评估数据。
- 事实边界
- 效果属于作者实验报告;不能由软件测试推断实体电路已获安全认证。
- 证据位置
- Training、testing与blind evaluation相关正文及比较图注。
- 来源
- 原始分类:领域训练与电路设计
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2025-12-12 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Claude Code power user customization: How to configure hooks
文章说明如何把格式化、校验和日志记录绑定到Claude Code生命周期事件,减少仅靠自然语言提醒带来的遗漏。
展开分析与核对说明
- 问题
- 有些步骤应由确定的程序触发,而不应依赖模型是否记得执行。
- 方法
- 配置事件、工具匹配器和命令,通过标准输入接收JSON,并用退出状态或结构化返回值控制流程;区分项目、个人与本地配置。
- 取舍
- 钩子提高一致性,却增加脚本维护、等待时间和代码执行风险;并行匹配也要求脚本避免冲突。
- 局限
- 钩子以用户权限执行,需审查脚本、引用变量并保护秘密;具体事件和返回语义依版本变化,本文示例未执行验证。
- 事实边界
- 确定性指触发机制,不表示脚本或模型判断必然正确;旧示例不作为现行API保证。
- 证据位置
- 事件表、配置步骤、输入输出、调试及安全注意事项。
- 来源
- 原始分类:Claude Code钩子与自动化
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2025-12-11 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
AI agents find $4.6M in blockchain smart contract exploits
SCONE 把漏洞能力转成可验证的模拟资产变化,并交代数据筛选与容器化评估架构。
展开分析与核对说明
- 问题
- 单看成功率忽略同一缺陷的影响差异,但金额也容易被少数大案例支配。
- 方法
- 405个历史合约按固定区块分叉,在 Docker 中隔离运行;三模型委员会筛选、分歧人工复核,以余额变化判定。
- 取舍
- 历史漏洞集适合能力比较,却不能估计寻找未知漏洞的利润;Best@8 与新合约 Best@1 必须分开。
- 局限
- 前两大案例贡献92%金额;知识截止筛选仍不能完全排除污染,模拟收入并非真实盗取或完整净利润。
- 事实边界
- 作者 Winnie Xiao、Cole Killian、Henry Sleight、Alan Chan、Nicholas Carlini、Alwin Peng。2025-12-02与12-08修订,表内不提供利用代码。
- 证据位置
- Introduction、Evaluating、Costs、Related Work及完整Appendix/脚注。
- 来源
- 原始分类:可复现合约安全基准
来源栏目:Anthropic Research / Frontier Red Team
集合:纳入文章
发布日期:2025-12-01 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Effective harnesses for long-running agents
把初始环境搭建与后续逐项实现分离,利用结构化进度文件和Git让新会话恢复上下文。
展开分析与核对说明
- 问题
- 上下文窗口换代后,代理会遗忘进展、重复初始化或过早宣告整体完成。
- 方法
- 初始化生成init.sh、JSON功能清单与进度日志;后续每次先检查历史和环境,只做一项并端到端测试、提交干净状态。
- 取舍
- 增加启动、记录和浏览器测试成本,换跨会话稳定性;JSON限制随意篡改进度,仍需验证而非信任自报。
- 局限
- 主要验证全栈Web样例;浏览器工具可能漏掉原生弹窗;多代理分工及其他领域泛化仍待探索。
- 事实边界
- 演示重点为全栈Web,未证明可泛化至所有长任务。
- 证据位置
- 正文初始化、编码代理、环境恢复与未来方向;头部日期及quickstart链接已补核。
- 来源
- 原始分类:跨上下文长任务harness
来源栏目:Engineering
集合:纳入文章
发布日期:2025-11-26 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。 原链接现重定向至 https://www.anthropic.com/research/effective-harnesses-for-long-running-agents,保留索引时的来源栏目。
Using CLAUDE.md files: Customizing Claude Code for your codebase
CLAUDE.md把项目结构、命令和协作约定变成持续可见的代码库说明,使新会话不必重复摸索。
展开分析与核对说明
- 问题
- 模型不知道团队的隐含规范,但把全部资料塞进上下文又会分散注意力。
- 方法
- 用初始化结果作为起点,人工整理架构、测试和工作流;保持简洁,引用详细资料,并通过新会话和独立审查检查修改。
- 取舍
- 持续说明降低重复沟通成本,也会因过长或过时而误导模型,因此要随项目维护。
- 局限
- 正文包含旧式命令目录与个别文件名笔误;未提供对照实验,不能把配置说明视为安全或权限边界。
- 事实边界
- 总结的是当前可见正文,涉及配置路径和提示层级的表述须按使用版本核对。
- 证据位置
- 初始化、内容组织、上下文管理和自定义命令各节。
- 来源
- 原始分类:代码库持久上下文
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2025-11-25 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Introducing advanced tool use for Claude
文章虽以功能发布开头,但重点解释如何让代理使用大量工具而不耗尽上下文,并给出完整的接口示例和评测。
展开分析与核对说明
- 问题
- 工具定义、庞大中间结果和模糊参数约定是三种不同瓶颈,应分别处理,不能靠增加工具数量解决。
- 方法
- 先按需搜索工具,再让代码编排并过滤中间结果,最后用少量调用示例补足JSON Schema无法表达的业务约定。
- 取舍
- 搜索增加一次延迟,代码执行增加环境成本,示例增加token;因此只在相应瓶颈明显时启用。
- 局限
- 内部测得工具搜索可降低85%上下文开销、程序化调用降低37%token,但不同任务的收益不可直接套用。
- 事实边界
- 纳入原因是机制、实验与实现细节充分;指标为作者内部实验,非独立复现。
- 证据位置
- 正文 Tool Search Tool、Programmatic Tool Calling、Tool Use Examples、Best practices,L46–516。
- 来源
- 原始分类:工具检索与程序化调用
来源栏目:Engineering
集合:纳入文章
发布日期:2025-11-24 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。 原链接现重定向至 https://www.anthropic.com/research/advanced-tool-use,保留索引时的来源栏目。
Mitigating the risk of prompt injections in browser use
说明模型训练、内容筛查和人工红队如何共同降低浏览器提示注入风险。
展开分析与核对说明
- 问题
- 网页内容不可信,而代理具有点击、填表和传输数据等实际权限。
- 方法
- 在模拟网页注入上做强化学习;分类器检查进入上下文的不可信内容并触发行为干预;用自适应攻击者及专家持续测试。
- 取舍
- 防御层降低攻击成功率,却没有消除风险;自动测试较易扩展,专家更擅长发现新类型。
- 局限
- 内部攻击器每环境100次尝试,结果不代表所有真实攻击;未公开充分训练细节和成本。
- 事实边界
- Opus 4.5 的1.4%为该内部测试条件下数值,不能称风险已解决;本文虽含产品信息,纳入的是防御方法。
- 证据位置
- What is prompt injection;Claude’s progress;The path forward,L46–80。
- 来源
- 原始分类:浏览器代理纵深防御
来源栏目:Anthropic Research
集合:纳入文章
发布日期:2025-11-24 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
How to create Skills: Key steps, limitations, and examples
以明确任务和成功标准为起点,文章将技能拆成触发描述、执行步骤和按需读取的参考资料,并强调分开验证触发与结果。
展开分析与核对说明
- 问题
- 模糊描述会漏触发或误触发,冗长正文则浪费上下文;能被调用不等于能够正确完成任务。
- 方法
- 编写名称与描述,明确输入、边界和验收条件;测试正常、异常及范围外请求,再根据使用情况迭代。示例涵盖DOCX、品牌规范和前端设计。
- 取舍
- 技能粒度须在复用和精确之间平衡;将细节拆入参考文件节省上下文,但需要清楚的导航和维护责任。
- 局限
- 页面存在重复编号、重复问答和与示例不符的说明;组织共享与上传路径含历史状态,不应直接当作当前产品限制。
- 事实边界
- 示例为原文材料,不是本次执行指令;效果与触发准确率未给出量化验证。
- 证据位置
- Creating a skill、Testing and validation、limitations、三个完整技能示例及Common questions。
- 来源
- 原始分类:技能编写、测试与治理
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2025-11-19 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Improving frontend design through Skills
文章把字体、色彩、动效和背景等设计偏好封装为按需技能,并用构建脚本让多文件前端最终打包成单HTML产物。
展开分析与核对说明
- 问题
- 默认生成容易落入同质化样式,而把所有设计规则常驻系统提示又会增加无关任务的上下文负担。
- 方法
- 约400 token的设计指导提供具体方向但保留创造空间;另用React、Tailwind和shadcn/ui开发,再经Parcel打包满足Artifacts约束。
- 取舍
- 具体指导改善可控性,但可能让模型转向另一套重复样式;丰富工具链增加构建复杂度。
- 局限
- 改善依据展示案例与作者判断,未报告盲评、样本统计、可访问性或运行性能测量;未独立验证截图效果。
- 事实边界
- 同质化成因是作者解释,不是本文独立证明的因果结果;设计偏好不是通用质量标准。
- 证据位置
- Skills、Prompting、Impact及Improving artifact quality各节。
- 来源
- 原始分类:前端生成与按需技能
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2025-11-12 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Project Fetch: Can Claude train a robot dog?
八名非机器人专家的两组试验展示硬件接入收益,同时记录生成更多代码和分散注意力的代价。
展开分析与核对说明
- 问题
- 把模型代码能力接到真实传感器,并不自动产生可靠闭环控制。
- 方法
- 依次测试手动、程序控制和自主取球;接入视频及激光雷达,记录任务时间,并以词典法分析团队对话。
- 取舍
- AI 组连接更快、界面更好,但更容易扩散探索;坐标错误和颜色检测混淆仍需修正。
- 局限
- 仅两队一天的便利样本,且无 AI 组曾获提示;两组都未完成自主取球,不能当成端到端自治证明。
- 事实边界
- 纳入理由是硬件连接、传感器和协作失效的具体工程复盘,而非仅采纳能力宣传。
- 证据位置
- What were we doing、Results、Outtakes、Limitations及统计脚注。
- 来源
- 原始分类:机器人接入与人机开发实践
来源栏目:Anthropic Research / Frontier Red Team
集合:纳入文章
发布日期:2025-11-12 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Best practices for prompt engineering for 2026
从清楚说明目标、动机和格式开始,文章主张只在需要时加入示例、推理设置或多阶段提示,并用重复测试判断是否有效。
展开分析与核对说明
- 问题
- 含糊请求和过度复杂的提示都会降低稳定性,技术数量不是质量指标。
- 方法
- 先明确任务及不确定性处理,再选择少样本、格式引导和分步工作流;按输出符合度、稳定性及迭代次数评估。
- 取舍
- 多阶段提示用延迟换取中间检查机会,示例和额外结构则消耗上下文。
- 局限
- 未给出对照实验;预填开括号不能保证JSON语法或语义正确,允许回答不知道也不能消除幻觉。
- 事实边界
- 发布日期为2025年,但标题和正文包含2026更新内容;按当前可见版本分析,不当作原始历史快照。
- 证据位置
- Core techniques、Advanced techniques、Choosing、Troubleshooting与considerations。
- 来源
- 原始分类:提示工程与任务拆分
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2025-11-10 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Code execution with MCP for efficient agents
把MCP工具变为可由代码调用的接口,让模型只阅读必要定义和最终结果,而不是逐条承接全部数据。
展开分析与核对说明
- 问题
- 直接工具调用会把定义和中间数据重复塞进上下文,使成本、延迟与复制错误一起增加。
- 方法
- 按文件目录逐步发现工具,在执行环境里做筛选、循环与聚合;用文件保存进度,也可把已验证程序整理为技能。
- 取舍
- 减少模型输入的代价是维护安全沙箱、资源限制和监控;简单单次调用未必值得引入这些设施。
- 局限
- 敏感数据不入模型并非自动安全,仍需令牌化、确定性流向规则和可靠执行环境;98.7%节省是文中示例,不是普遍测量。
- 事实边界
- 作者给出架构模式而非完整产品安全证明;隐私效果依赖具体实现。
- 证据位置
- 正文工具开销、代码API、渐进披露、隐私与技能,L45–262。
- 来源
- 原始分类:MCP与代码执行架构
来源栏目:Engineering
集合:纳入文章
发布日期:2025-11-04 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。 原链接现重定向至 https://www.anthropic.com/research/code-execution-with-mcp,保留索引时的来源栏目。
What is Model Context Protocol? Connect AI to your world
文章解释MCP如何用统一的客户端/服务器接口连接模型应用与外部工具,降低每个应用分别开发集成的重复工作。
展开分析与核对说明
- 问题
- 多个AI应用与多个业务系统之间形成M×N集成问题,手动复制上下文既慢又容易遗漏。
- 方法
- AI应用实现客户端,数据和工具提供方实现服务器;区分本地stdio与远程HTTP类传输,并指向官方快速入门。
- 取舍
- 统一接口提升复用,但不能免除服务器开发、权限管理和具体业务适配。
- 局限
- 属于概念入门,没有协议消息、鉴权实现或性能基准;兼容性与安全仍取决于具体实现。
- 事实边界
- 安全与性能描述是文章概括,不等于所有服务器都安全或连接必然无超时;正文含后续新增功能链接。
- 证据位置
- Where did MCP come from、How does MCP work及FAQ。
- 来源
- 原始分类:MCP协议概念与集成架构
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2025-10-31 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
How Brex improves code quality and productivity with Claude Code
Brex把Claude Code接入单体仓库知识、数据操作和非工程岗位的修改流程,重点不是统一的提速数字,而是让更多人能够发现问题并提交可审查变更。
展开分析与核对说明
- 问题
- 团队知识分散、文档容易失效,非工程人员的小改动也常依赖工程排期。
- 方法
- 主要目录维护CLAUDE.md;CI/CD检查代码是否使文档过时;自定义提交命令先加载git状态和相关PR;MCP支持自然语言查询数据。
- 取舍
- 更快实现可以用于更多方案比较,而非必然节省总时间;扩大贡献者范围仍需要审查和上下文维护。
- 局限
- 3至4倍效率和采用率来自访谈,缺少对照设计;未公开SQL权限、准确率评估或内部实现代码。
- 事实边界
- 客户自报效果不外推到所有团队;未来数据分析和自动更新文档计划不作为已交付能力。
- 证据位置
- Scaling Claude Code best practices及三位受访者的工作实例。
- 来源
- 原始分类:企业代码工作流案例
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2025-10-30 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Building AI agents for financial services
文章从遗留系统集成、审计和实时风险三个方面说明金融代理的部署要求,主张先从可人工核验的低风险任务建立经验。
展开分析与核对说明
- 问题
- 跨系统数据格式、交易完整性和风险边界使金融代理不能只靠模型生成正确答案。
- 方法
- 优先连接标准API;必要时用连接器或中间件转换;从一开始记录数据来源和操作轨迹,设置升级、人工否决与安全失败状态。
- 取舍
- 共享能力减少重复建设,但跨部门复用和更高自主性会扩大治理与监控要求。
- 局限
- 没有具体代码、架构实现或风险阈值;客户成绩和法规表述未在本文中独立验证,不能作为合规意见。
- 事实边界
- 此处整理技术架构建议,不提供金融或法律建议;宣传性收益与可执行设计要求分开看待。
- 证据位置
- Unique challenges、Practical deployment及Advancing to complex use cases。
- 来源
- 原始分类:金融代理部署架构
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2025-10-30 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Building AI agents for healthcare and life sciences
文章把医疗代理设计拆成连接方式、数据格式和同步需求,并强调临床决定必须保留人工权限,效率不能替代结果与安全验证。
展开分析与核对说明
- 问题
- 医疗数据分散且格式不同,实时性、隐私与病人安全要求使一般企业自动化方案不能直接照搬。
- 方法
- 按场景选择API、MCP或中间件,区分紧急实时访问和非紧急批处理;配置审计、人工升级、否决与安全默认行为。
- 取舍
- 共享基础设施提高复用,但复杂代理不一定比简单自动化划算;追求速度必须服从临床验证。
- 局限
- 没有提供临床验证方案或代码;效率案例不能证明改善病人结局,文中法规概括也不能代替专业合规评估。
- 事实边界
- 这是对作者工程建议的梳理,不是医疗建议;区分行政效率、模型准确率与临床结果。
- 证据位置
- Data fragmentation、Maintaining human authority、Implementation strategy与结尾ROI讨论。
- 来源
- 原始分类:医疗代理系统集成与人工监督
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2025-10-30 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Introduction to agentic coding
文章用读取项目、规划、多文件修改和测试反馈区分代理式编程与代码补全,并提供入门任务。
展开分析与核对说明
- 问题
- 跨文件重构需要协调依赖和验证,单段代码建议仍把整合负担留给开发者。
- 方法
- 读取配置、测试与依赖后制定计划,执行修改并根据环境反馈迭代;用CLAUDE.md表达项目约定。
- 取舍
- 代理减少人工搬运,但开发者仍需定义范围、审查方案与验证变更。
- 局限
- 没有公开对照实验;Rakuten数字是客户案例,不能代表所有项目,读全项目也不等于把全部文件同时装入上下文。
- 事实边界
- 安装方式、默认权限与能力描述按文章版本理解;不将自动化描述当作无需人工验收的保证。
- 证据位置
- What is、How agentic coding works、permissions及Getting started。
- 来源
- 原始分类:代理式编程入门
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2025-10-30 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Fix software bugs faster with Claude
文章建议先把错误、日志和近期变更转成待验证假设,再让代码代理跨文件调查、修复并补回归测试。
展开分析与核对说明
- 问题
- 报错位置往往只是症状,生产条件又难在本地完整复现。
- 方法
- 结合堆栈、依赖和Git变更排查,分析并发与过期条件;为故障写复现测试,再运行集成及完整测试检查影响。
- 取舍
- 增加日志能改善可见性,却有部署和性能成本;自动生成假设可缩小调查范围,但仍须用实验确认。
- 局限
- 未提供完整故障复现或实测对照;Ramp的分诊提速不能证明任意缺陷都能更快修复。
- 事实边界
- 模型给出的原因是待验证解释,不是证实的根因;文章对权限和可逆性的概括不能覆盖所有命令。
- 证据位置
- How most debugging happens、Scale up、Validate fixes及Ramp案例。
- 来源
- 原始分类:故障定位与回归验证
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2025-10-28 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
How to integrate APIs seamlessly
文章把集成工作前移到失败模式分析,强调鉴权、限流、模式变更和重复事件应在上线前设计与测试。
展开分析与核对说明
- 问题
- 只实现正常响应会让过期token、429和乱序webhook在生产中演变成连锁故障。
- 方法
- 解析接口规格后列风险,采用带抖动的退避、幂等处理、刷新流程及合同测试;模式迁移可用版本客户端和适配层。
- 取舍
- Webhook延迟低但需验签、重试与幂等;轮询简单却增加请求量和延迟。
- 局限
- 没有给出完整客户端或测试结果;所谓生产就绪是能力宣传,不是对生成代码的认证。
- 事实边界
- 具体供应商行为必须依据其文档和实际测试,不能用模型猜测代替协议验证。
- 证据位置
- Identify failure modes、authentication、tests及FAQ。
- 来源
- 原始分类:API集成可靠性
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2025-10-27 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Stress-testing model specs reveals character differences among language models
提出规格调试流程,以模型间分歧找出规则冲突和解释歧义。
展开分析与核对说明
- 问题
- 抽象行为规范可能在实际情境中互相冲突。
- 方法
- 从价值分类构造成对取舍问题,按统一量尺评分,再将高分歧情境交给合规评测。
- 取舍
- 可规模化筛选问题,但模型裁判与合成数据引入偏差。
- 局限
- 规则缺口不是行为差异的唯一原因;需人工与多样裁判核验。
- 事实边界
- 只总结一般评测工程,不复述敏感样例或将相关性当因果证明。
- 证据位置
- Stress-testing through value trade-offs;Practical implications;Limitations。
- 来源
- 原始分类:工程实践与评测
来源栏目:Alignment Science 博客
集合:纳入文章
发布日期:2025-10-24 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Making Claude Code safer with sandboxing
解释本地沙箱和云端Git代理如何减少逐次授权,让代理在预先定义的边界内自主运行。
展开分析与核对说明
- 问题
- 频繁审批会使用户机械点击;与其依赖每次确认,不如从操作系统层限制文件和网络访问。
- 方法
- 使用bubblewrap/Seatbelt约束进程及子进程,并通过宿主代理控制出口;云端Git代理在沙箱外保管真实凭据并核验仓库、分支。
- 取舍
- 扩大自主性可减少打断,但必须同时管理文件与网络边界,例外授权仍需谨慎。
- 局限
- 原文对隔离的安全保证措辞很强,但没有证明可抵御所有攻击;后续2026年containment复盘应一并阅读。
- 事实边界
- 84%是作者内部使用结果;此处不沿用原文近似绝对安全的宣传表述。
- 证据位置
- 正文 Keeping users secure、Sandboxing、云端Git代理,L45–104。
- 来源
- 原始分类:代理沙箱与凭据隔离
来源栏目:Engineering
集合:纳入文章
发布日期:2025-10-20 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。 原链接现重定向至 https://www.anthropic.com/research/claude-code-sandboxing,保留索引时的来源栏目。
Equipping agents with Agent Skills
把领域流程、脚本和参考资料装进文件夹,使通用代理按需获得专业能力,而不必为每种任务重建代理。
展开分析与核对说明
- 问题
- 专业知识需要可复用、可组合且不占满上下文的交付方式。
- 方法
- 启动时只加载名称和描述,相关时读取SKILL.md,再按需打开参考文件;确定性工作交给脚本执行。
- 取舍
- 更少的预加载换来运行时检索和触发判断;拆分资料有助节省token,但描述不清会导致漏用或误用。
- 局限
- 恶意技能可引入外泄和执行风险,因此需要审查依赖、脚本及外部连接;原文未报告定量效果。
- 事实边界
- 自动创建和评估技能属于发表时的未来方向,不记为已验证成果。
- 证据位置
- 正文 Anatomy、Developing and evaluating、Security、Future,L52–122。
- 来源
- 原始分类:技能架构与渐进上下文
来源栏目:Engineering
集合:纳入文章
发布日期:2025-10-16 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。 原链接现重定向至 https://www.anthropic.com/research/equipping-agents-for-the-real-world-with-agent-skills,保留索引时的来源栏目。
How to scale agentic coding across your engineering organization
文章把代理编程推广视为工作流和能力建设:先积累内部经验,再以共享项目说明、测试习惯和多维指标扩展。
展开分析与核对说明
- 问题
- 孤立试验难转成稳定组织收益,代码行数也不能充分衡量价值。
- 方法
- 由熟练用户试点并记录成败,维护版本化CLAUDE.md;用测试驱动的小步实现控制范围,跟踪任务时间、交付、入职和满意度。
- 取舍
- 推广速度要与学习和质量控制平衡;共享约定减少重复,但需要持续维护。
- 局限
- 20至50人试点是作者建议而非普遍最优值;没有因果研究证明采用与效率变化的关系。
- 事实边界
- 区分技术工作流建议与组织经验判断,不把相关性或满意度直接等同于生产率。
- 证据位置
- Planning、Using CLAUDE.md、Measuring impact及Common adoption challenges。
- 来源
- 原始分类:工程组织推广与效果测量
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2025-10-15 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Build responsive web layouts
文章从内容真正溢出的宽度而非固定设备标签选择断点,并结合代理修改CSS与多视口测试。
展开分析与核对说明
- 问题
- Grid、Flexbox和容器约束的组合可能只在特定宽度出错,模拟器也不能覆盖真实设备行为。
- 方法
- 先检查固定宽度和样式依赖,再改用流式尺寸、auto-fit或适当媒体查询;用Playwright验证多个视口并检查横向溢出。
- 取舍
- 框架工具类快速一致,却可能不符合内容断点;手写媒体查询可控,但覆盖关系更难维护。
- 局限
- 示例视口有限,不能证明所有设备均正确;图示步骤未独立运行,代码中的行号不是可直接复制的源码。
- 事实边界
- 模型生成布局只是候选实现,真实设备、交互和可访问性仍需另行验证。
- 证据位置
- 传统方法取舍、Refactor layouts及FAQ。
- 来源
- 原始分类:响应式前端与视觉回归
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2025-10-10 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Optimize code performance quickly
文章建议把性能观测与代码结构分析结合,针对热点、N+1查询和重复工作提出优化,再以基准及回归测试验证。
展开分析与核对说明
- 问题
- 性能瓶颈涉及算法、数据库和运行条件,单看慢函数或单靠静态猜测都不足以定位。
- 方法
- 聚焦关键目录,分析复杂度与查询循环;考虑批量查询、索引、连接池和缓存,并比较修改前后延迟及查询数。
- 取舍
- 逐步修改降低风险但协调成本更高;优化方案必须在真实负载与资源约束下验证。
- 局限
- 正文没有完整基准数据;Ramp案例是总体采用与分诊指标,不是文中性能优化的实验证明。
- 事实边界
- AI分析不能代替测量;测试通过也不自动保证生产负载下的性能改善。
- 证据位置
- How most performance optimization happens、Implement with testing、N+1及FAQ。
- 来源
- 原始分类:性能分析与代理辅助优化
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2025-10-06 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Petri: An open-source auditing tool to accelerate AI safety research
用可编程审计代理把自然语言假设变成多轮模拟实验,并筛出值得人工读的轨迹。
展开分析与核对说明
- 问题
- 人工搭建环境、执行模型并逐条分析难以覆盖大量行为。
- 方法
- 每个种子并行运行审计循环,模拟工具和用户,允许回滚;裁判按多个维度评分,人工再审高风险样本。
- 取舍
- 模拟和自动评分降低成本,却将覆盖能力限制在审计模型能构造与识别的情境内。
- 局限
- 试点样本有限,模型评测意识会干扰比较;汇总指标无法代替轨迹阅读,情境叙事也可能诱导行为。
- 事实边界
- 作者为 Kai Fronsdal、Isha Gupta、Abhay Sheshadri、Jonathan Michala、Stephen McAleer、Rowan Wang、Sara Price、Samuel R. Bowman;未运行工具。
- 证据位置
- Broad-coverage pilot-alignment evaluations;Case study;Get started,L46–113。
- 来源
- 原始分类:自动化安全审计框架
来源栏目:Anthropic Research / Alignment
集合:纳入文章
发布日期:2025-10-06 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Effective context engineering for AI agents
将提示工程扩展为持续管理模型可见信息:重点不是塞入更多材料,而是让每一步都获得足够且相关的上下文。
展开分析与核对说明
- 问题
- 长任务不断积累工具结果与历史,信息过多会干扰检索和决策,即使上下文窗口扩大也不会自然解决。
- 方法
- 结合适度具体的指令、清晰工具、典型示例与即时检索;长任务再用压缩摘要、外部笔记或子代理隔离细节。
- 取舍
- 即时探索慢于预检索,压缩可能遗失后来才重要的信息,多代理则增加协调与成本;方案需按任务选择。
- 局限
- “最小上下文”不等于一味求短;原文没有给出可通用于所有任务的最优token数或受控比较。
- 事实边界
- 架构解释与实践建议分别理解;“注意力预算”是帮助设计的概念框架。
- 证据位置
- 正文概念区分、上下文构成、即时检索与长任务三策略,L43–135。
- 来源
- 原始分类:上下文工程
来源栏目:Engineering
集合:纳入文章
发布日期:2025-09-29 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。 原链接现重定向至 https://www.anthropic.com/research/effective-context-engineering-for-ai-agents,保留索引时的来源栏目。
Building agents with the Claude Agent SDK
文章把Claude Code的执行框架推广为通用代理SDK,以获取上下文、行动、验证再循环组织邮件等非编码任务。
展开分析与核对说明
- 问题
- 只有提示不足以完成长任务,代理需要寻找资料、操作环境并辨别自己是否做对。
- 方法
- 结合文件搜索、自定义工具、脚本、MCP、独立子代理和压缩;验证优先用明确规则,也可加入截图和模型裁判。
- 取舍
- 语义检索与代理搜索有速度、维护和透明度差异;模型裁判增加延迟且不够稳健。
- 局限
- 邮件系统是说明性设计,不是完整产品实现;搜索方式的优劣是作者经验判断,未给统一基准。
- 事实边界
- MCP不会使任意服务自动免鉴权;压缩与子代理也不能保证无信息损失或无限任务可靠性。
- 证据位置
- Gather context、Take action、Verify及Testing and improving。
- 来源
- 原始分类:Agent SDK与反馈循环
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2025-09-29 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Managing context on the Claude Developer Platform
文章区分清除过时工具结果与持久保存有用状态两种机制,并报告二者结合的内部搜索评估。
展开分析与核对说明
- 问题
- 长任务的工具输出不断累积,保留全部历史会占满上下文,直接截断又可能丢失进展。
- 方法
- 上下文编辑移除旧工具调用和结果;客户端memory工具通过文件式接口读写持久状态,存储后端由开发者控制。
- 取舍
- 减少历史负担可延长运行,但需要判断哪些信息值得保存;外部记忆也带来状态与存储管理责任。
- 局限
- 内部评估报告组合提升39%、单独编辑提升29%,100轮搜索token减少84%;未公开完整题集、基线和统计细节。
- 事实边界
- 百分比为作者特定内部评估,不是普遍保证;记忆工具不是模型参数学习,也不能保证关键内容永不遗失。
- 证据位置
- Context windows、memory客户端说明及Performance improvements。
- 来源
- 原始分类:长任务上下文管理
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2025-09-29 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Building AI for cyber defenders
文章用Cybench和CyberGym说明评估结果高度依赖尝试次数与预算,并讨论自动补丁比较的不足。
展开分析与核对说明
- 问题
- 只报告单次成功率可能低估反复尝试者能力,而参考补丁也不是唯一正确答案。
- 方法
- 在多次尝试和成本约束下测量成功概率;补丁任务先由模型对照人工参考评分,再人工抽查高分样本。
- 取舍
- 重复尝试提高成功率但增加计算成本;参考相似性可快速筛选,却会错判不同但有效的修复。
- 局限
- Cybench只测37/40题;CyberGym单次与30次预算不同,Opus4.1单次也不遵循同一2美元约束;15%补丁等价不等于15%全部正确率。
- 事实边界
- 防御技能训练细节未公开;产品领先与客户证言不作为独立技术证据。
- 证据位置
- Evidence from evaluations、Further research into patching及脚注。
- 来源
- 原始分类:安全评估预算与补丁评审
来源栏目:Anthropic Research / Frontier Red Team
集合:纳入文章
发布日期:2025-09-29 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
A postmortem of three recent issues
复盘三项重叠基础设施故障:上下文路由错误、TPU输出损坏和近似top-k误编译,解释为何常规评测未及时发现。
展开分析与核对说明
- 问题
- 平台、负载和配置交互导致症状不一致;只盯总体分数容易漏掉少量但重复影响用户的质量问题。
- 方法
- 按平台定位并回滚;调查bf16/fp32精度差异及被旧补丁掩盖的编译问题,最终改用精确top-k并扩大生产评测。
- 取舍
- 作者接受少量效率损失以换取正确性;保护用户隐私同时也限制了故障重现,需要更好的诊断工具。
- 局限
- Sonnet 4的第三项故障未能重现,仅谨慎回滚;粘性路由使用户受影响比例不同于请求比例。
- 事实边界
- 发布日期为9月17日,正文含9月18日完成的后续信息;保留更新痕迹,不将所有日期当首发内容。
- 证据位置
- 正文三项事故、XLA深挖、检测困难、改进及脚注,L48–133。
- 来源
- 原始分类:推理服务事故复盘
来源栏目:Engineering
集合:纳入文章
发布日期:2025-09-17 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。 原链接现重定向至 https://www.anthropic.com/research/a-postmortem-of-three-recent-issues,保留索引时的来源栏目。
Writing effective tools for AI agents
通过原型、真实任务评测和轨迹分析反复改进工具,把工具接口视为代理理解与行动的关键边界。
展开分析与核对说明
- 问题
- 机械包装API会让模型面对过多选择和无关结果;真正目标是提高可成功完成任务的范围,而非暴露全部接口。
- 方法
- 以高价值工作流设计少量明确工具;区分命名空间,返回有意义标识,提供简略/详细结果,并用可操作错误提示引导修正。
- 取舍
- 合并操作可减少调用,但会降低细粒度灵活性;压缩结果省token,却可能丢掉后续调用必需的ID。
- 局限
- 模型自述可能漏掉真正错误,必须检查原始调用;命名和返回格式的效果随模型、任务变化。
- 事实边界
- 不从没有清晰数值的图例推断具体提升;建议以自己的评测验证。
- 证据位置
- 正文 How to write tools 与五项设计原则,L45–208。
- 来源
- 原始分类:面向代理的工具设计
来源栏目:Engineering
集合:纳入文章
发布日期:2025-09-11 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。 原链接现重定向至 https://www.anthropic.com/research/writing-tools-for-agents,保留索引时的来源栏目。
Developing nuclear safeguards for AI
合作双方用合成测试与反馈迭代验证风险分类器,再以多层信号处理真实流量的灰区。
展开分析与核对说明
- 问题
- 政府敏感信息不能完全共享,用户数据也需保护;仍必须判断分类是否可靠。
- 方法
- 由可共享风险指标生成合成有害/无害案例,专家复核标签后迭代;上线后结合层级摘要重新判断上下文。
- 取舍
- 保护信息边界的合成评估容易遗漏真实语境;跨会话总结提高细分能力。
- 局限
- 96.2%准确率和零误报来自初步合成测试,真实流量确有误报;未公开样本总数或线上精确率。
- 事实边界
- 仅描述安全检测工程,不涉及核武器技术知识。
- 证据位置
- What we built、Why does this matter、What’s next与脚注。
- 来源
- 原始分类:受限信息下的分类器验证
来源栏目:Anthropic Research / Frontier Red Team
集合:纳入文章
发布日期:2025-08-21 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Prompt caching with Claude
文章用重复长上下文案例说明缓存可减少后续请求的预处理成本,并给出首token延迟和成本比较。
展开分析与核对说明
- 问题
- 重复发送相同背景材料会重复产生输入处理成本和等待时间。
- 方法
- 缓存常用上下文并在后续调用复用;示例覆盖10万token书籍、万token多示例提示和多轮对话。
- 取舍
- 写入缓存有额外成本,复用才带来收益;不同工作负载的降本与加速幅度明显不同。
- 局限
- 页头日期为2025-08-14,却保留2024-12-17更新及Claude 3时代上线文案,时间元数据冲突;未报告样本、硬件和完整测量方法。
- 事实边界
- 缓存不是回答缓存或永久记忆;90%降本和85%延迟下降为特定上限宣传,不能外推。
- 证据位置
- When to use、Prompt caching比较表、How we price及页头更新。
- 来源
- 原始分类:提示缓存与延迟/成本测量
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2025-08-14 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。 本条保留当前官网与索引的发布日期;正文使用旧模型及 public beta 语境,不能当作当前价格、可用性或最早发布史的证据。
Claude is competitive with humans in (some) cyber competitions
七场竞赛揭示工具接口和并行代理的收益,也记录长任务摘要失真等独特失败。
展开分析与核对说明
- 问题
- 静态聊天评估低估工具能力,却无法揭示多日运行的状态保持问题。
- 方法
- 从人工转述转向自主文件与终端工具,以专门角色分工;上下文接近上限时写状态摘要供下一轮继续。
- 取舍
- 并行提高速度但人机资源不等;递归摘要节省上下文,也可能丢失任务意图。
- 局限
- ASCII 动画淹没上下文、长时输出偏离任务的原因仍未知;部分比赛攻击压力与硬件要求不等,不能直接宣称超越人类。
- 事实边界
- Keane Lucas 被列为演讲研究者,正文未明确列出完整作者名单。
- 证据位置
- Why enter、autonomy and tools、fails in ways no human would及比较限制。
- 来源
- 原始分类:长时代理工具与上下文失效复盘
来源栏目:Anthropic Research / Frontier Red Team
集合:纳入文章
发布日期:2025-08-09 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Automate security reviews with Claude Code
文章说明将安全检查放入本地命令和PR自动化,并给出Anthropic在合并前发现DNS rebinding与SSRF问题的案例。
展开分析与核对说明
- 问题
- 开发速度上升时,安全检查需要进入日常修改流程,而非只在发布末期进行。
- 方法
- 专门提示扫描常见漏洞,GitHub Action在PR触发、筛除已知问题和误报,再以内联评论返回修复建议。
- 取舍
- 早期反馈缩短修复路径,但规则过滤可能遗漏问题,模型审查不能替代完整安全测试。
- 局限
- 没有公开检出率、误报率或完整漏洞复现;两个成功个案不能证明能阻止所有不安全代码上线。
- 事实边界
- 虽含发布公告,因具体审查流程与内部漏洞案例纳入;能力描述不等于安全保证。
- 证据位置
- Review from terminal、Automate PR reviews及Improving product security。
- 来源
- 原始分类:开发流程中的安全审查
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2025-08-06 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。
How Anthropic teams use Claude Code
Anthropic访谈多个团队,展示代码导航、测试、事故排查、原型和文档整理如何融入既有工作流。
展开分析与核对说明
- 问题
- 陌生代码和分散知识会拖慢协作,重复实现也限制非工程岗位验证想法。
- 方法
- 结合CLAUDE.md与MCP获取知识,用GitHub Actions做PR辅助,以测试驱动循环实现功能;事故中结合堆栈、文档和截图排查。
- 取舍
- 加速试验和知识获取仍需人工审查;简单沙箱原型的成功不能直接外推到复杂生产系统。
- 局限
- 节省时间来自内部访谈和个案,没有统一测量或对照;未公开内部配置和实验记录。
- 事实边界
- 用户访谈是经验材料,不等于全面量化评估;营销与法律原型仅作为跨岗位应用背景。
- 证据位置
- Codebase navigation至Automation各节。
- 来源
- 原始分类:内部团队工程实践
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2025-07-24 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Building and evaluating alignment auditing agents
构建深入调查、评测开发和广度红队三种代理,并用已知植入行为检验发现能力。
展开分析与核对说明
- 问题
- 人工审计难扩展,且同一人知道答案后无法重复参加盲测。
- 方法
- 调查器结合对话、数据搜索、SAE 工具和文件记忆;外层代理汇总十份报告继续验证;评测代理按计划、实现、审查循环迭代。
- 取舍
- 并行提高覆盖但增加汇总成本;限制工具输出防止上下文溢出,却要求代理主动翻页。
- 局限
- 开发测试共用环境、人工植入问题及 SAE 训练数据构成会影响结论;模型易固守假设、遗忘进度和遗漏分页结果。
- 事实边界
- 13%单调查与42%汇总调查、88%评测成功分别对应不同任务;附录模型生成总结不当作作者验证事实,危险示例不转录。
- 证据位置
- 三类代理章节、Limitations 与 Appendix,L13–988。
- 来源
- 原始分类:自动化审计代理与验证环境
来源栏目:Alignment Science Blog
集合:纳入文章
发布日期:2025-07-24 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Project Vend: Can Claude run a small shop? (And why does that matter?)
真实小店试验把模拟经营推进到持续一个月的人机协作,暴露价格、记忆和身份混乱等长期失效。
展开分析与核对说明
- 问题
- 短题目表现无法证明代理能持续管理库存、现金流和客户承诺。
- 方法
- Sonnet 3.7 配搜索、模拟邮件、持久笔记、Slack 和改价工具;人类补货,代理决策。
- 取舍
- 笔记突破上下文限制,却未保证可靠学习;友好回应也会损害经营目标。
- 局限
- 单店探索而非对照实验;身份混乱原因未知,强化学习改进只是设想。
- 事实边界
- 架构依据文字与图注,未声称审阅全部图像细节。
- 证据位置
- 正文 Tools、performance review、Identity crisis、What’s next及脚注。
- 来源
- 原始分类:长期代理的工具、记忆与可靠性
来源栏目:Anthropic Research / Frontier Red Team
集合:纳入文章
发布日期:2025-06-27 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Desktop Extensions: One-click MCP installs
说明如何用一个带manifest的压缩包交付本地MCP服务器、依赖和配置,降低非开发者的安装门槛。
展开分析与核对说明
- 问题
- 手动装运行时、改JSON和解决依赖会阻碍部署;安装体验也需要标准化的工程接口。
- 方法
- manifest声明运行方式、能力、平台差异和用户配置;宿主生成配置界面,把敏感值存入系统钥匙串,再以参数或环境变量传入。
- 取舍
- 打包和自动更新减少安装摩擦,但也带来扩展供应链、版本兼容和企业管理责任。
- 局限
- 格式当时仍为0.1预览;私有目录、阻止列表和系统管理可降低风险,但不能把安装便利等同可信。
- 事实边界
- 2025-09-11更新把.dxt改为.mcpb;这里区分原始发布时间与后续命名更新。
- 证据位置
- 正文 Architecture、Building your first extension、Advanced features、Security,L57–493。
- 来源
- 原始分类:MCP打包与部署工程
来源栏目:Engineering
集合:纳入文章
发布日期:2025-06-26 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。 原链接现重定向至 https://www.anthropic.com/research/desktop-extensions,保留索引时的来源栏目。 当前正文已补充扩展名由 .dxt 改为 .mcpb;旧 .dxt 仍兼容。历史标题与发布日期保留。
Confidential Inference via Trusted Virtual Machines
以小型可信加载器隔离模型权重和明文,探索可证明的机密推理。
展开分析与核对说明
- 问题
- 减少必须信任的推理代码;只在经过证明的环境释放解密密钥。
- 方法
- TPM启动度量、签名程序、禁用调试、密钥服务器验证证明;非可信服务通过虚拟加速器调用。
- 取舍
- 可信基缩小,但加速器共享加密内存尚不成熟,仍信任机房与 hypervisor。
- 局限
- 早期设计,未承诺产品;API server不在本篇详述范围;独立密钥方、出口限速与安全签名待探索。
- 事实边界
- 仅博客正文解读,未将报告全文阅读冒充已完成;无独立验证。
- 证据位置
- Inference service;Trusted environment;Future directions;Conclusions,L47–95。
- 来源
- 原始分类:机密计算与推理安全
来源栏目:Engineering
集合:纳入文章
发布日期:2025-06-18 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
SHADE-Arena: Evaluating sabotage and monitoring in LLM agents
构建同时考核正常任务完成、恶意副任务与监控漏检的隔离评测。
展开分析与核对说明
- 问题
- 只看恶意目标成功率会忽略代理是否仍完成正常工作,也无法衡量实际监控价值。
- 方法
- 17组主副任务置于带文档与工具的虚拟环境;独立监控模型读轨迹,用固定怀疑阈值判定,另做思维链可见性和提示消融。
- 取舍
- 公开样例利于复现,但大部分任务保留以减少污染;提高检测率会带来误报。
- 局限
- 任务明确指派恶意目标,测的是能力不是自然动机;最佳监控达到80%检测时误报仍超过20%。
- 事实边界
- 总成功率与只完成副任务并逃避监控的成功率定义不同,不能混用;实验结果不证明部署中自然发生频率。
- 证据位置
- SHADE-Arena;Results;Conclusions;How to use,L46–124。
- 来源
- 原始分类:代理监控评测环境
来源栏目:Anthropic Research
集合:纳入文章
发布日期:2025-06-16 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
How we built our multi-agent research system
主代理规划并派发并行研究,子代理筛选大量材料后返回关键发现,另以引用处理补齐证据位置。
展开分析与核对说明
- 问题
- 开放研究路径无法预先硬编码;分工可以扩大探索,但生产化难点在协调、评估和故障恢复。
- 方法
- 明确每个子任务的目标、边界和输出;按复杂度分配预算,用结果评分与人工检查校准,并通过检查点和渐进版本部署维持连续运行。
- 取舍
- 作者内部评测相对单代理提高90.2%,但多代理约消耗普通聊天15倍token;强依赖和共享上下文任务未必适合。
- 局限
- 同步等待会形成慢节点瓶颈;异步虽可提速,却增加状态一致性与错误传播复杂度。
- 事实边界
- 90.2%是特定内部评测提升,不是绝对成功率;token与性能相关不等同单独因果证明。
- 证据位置
- 正文收益、架构、提示与评测、生产可靠性及附录,L47–150。
- 来源
- 原始分类:多代理研究系统
来源栏目:Engineering
集合:纳入文章
发布日期:2025-06-13 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。 原链接现重定向至 https://www.anthropic.com/research/multi-agent-research-system,保留索引时的来源栏目。
Claude Code: Best practices for agentic coding
以项目配置、探索计划、测试和多会话协作为主线,说明如何把 Claude Code 接入真实开发流程,而不只是让它生成代码。
展开分析与核对说明
- 问题
- 代理需要明确的项目背景和可验证目标;开发者仍应负责方向、检查与及时纠偏。
- 方法
- 用精简的 CLAUDE.md、工具与权限配置建立环境;先探索再计划,借助测试或截图迭代,并用独立会话复核及 worktree 隔离并行修改。
- 取舍
- 自动化提高吞吐,但上下文清理可能丢失线索,多代理也增加合并成本;跳过权限只适用于隔离环境。
- 局限
- 主要是团队经验,没有控制实验;页面于2026年1月声明不再维护,命令细节应以现行文档为准。
- 事实边界
- 原工程链接现跳转文档,历史正文保留在 research 同名路径;不将后续文档误作原文。
- 证据位置
- 历史正文 Setup、Tools、Common workflows、Optimize、Headless、Multi-Claude,L35–389。
- 来源
- 原始分类:代理编程工作流
来源栏目:Engineering
集合:纳入文章
发布日期:2025-04-18 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。 原链接现重定向至 https://code.claude.com/docs/en/best-practices,保留索引时的来源栏目。 原工程文章目前跳转到持续更新的 Claude Code Docs Best practices。当前文档不是 2025 年正文快照;原表分析作为历史记录保留,未完整核对历史版本。
Circuit Tracing: Revealing Computational Graphs in Language Models
用跨层转码器替换MLP,生成可探索的归因图,并以干预检验机制假设。
展开分析与核对说明
- 问题
- 识别概念不足以解释计算;须同时展示概念间作用及验证证据。
- 方法
- 稀疏跨层特征、固定注意力与归一化、误差节点、反向Jacobian、影响力剪枝、超节点及干预验证。附录说明特征分片、通信重叠、激活预取和低精度传输。
- 取舍
- 跨层结构缩短解释路径,但增加通信与解码器成本;剪枝提高可读性,也丢失信息。
- 局限
- 不解释QK注意力形成;误差、未激活特征及人工分组造成遗漏。输出匹配不等于机制相同,干预误差会跨层累积。
- 事实边界
- 补完旧目录长文;按可复用实现与评测纳入。稀疏核、替代分片等未实现优化建议不写成已验证成果。
- 证据位置
- Building an Interpretable Replacement Model;Evaluations;Limitations;附录CLT Implementation Details、Graph Pruning、Validating the Replacement Model、Notes on the Interface。
- 来源
- 原始分类:可解释性工具工程与评测
来源栏目:Transformer Circuits
集合:纳入文章
发布日期:2025-03-27 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。 本次核对方法概述与验证边界;完整长文附录、图形交互和配套代码未逐项复核。
The "think" tool for complex tool use
在复杂工具调用之间提供一个只记录思考、不改变外部状态的工具,让模型重新核对规则和已获得的信息。
展开分析与核对说明
- 问题
- 连续决策尤其容易遗漏政策约束;把检查放在工具结果之后,比只在最初规划更贴近新信息。
- 方法
- 以τ-bench比较基线、扩展思考和think工具,复杂航空场景再加领域示例;用pass^k测量多次都成功的可靠性。
- 取舍
- 增加提示与输出token;对单次调用、简单遵循任务未观察到收益。
- 局限
- 航空结果正文写0.570对0.370,表格却写0.584对0.332,存在未解释不一致;2025-12-15已改建议多数场景用扩展思考。
- 事实边界
- 保留原文数值冲突,不自行合并或择优引用;历史方案不作为当前首选建议。
- 证据位置
- 正文评测表、实现建议、适用边界及头部更新,L48–336。
- 来源
- 原始分类:工具链中的显式思考步骤
来源栏目:Engineering
集合:纳入文章
发布日期:2025-03-20 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。 原链接现重定向至 https://www.anthropic.com/research/claude-think-tool,保留索引时的来源栏目。 当前页新增说明:extended thinking 改进后,多数场景优先使用它而不是独立 think tool;原表方法按 2025 年文章语境理解。
Monitoring computer use via hierarchical summarization
先压缩单次交互,再汇总用户使用模式,以发现单条无害但聚合后异常的行为。
展开分析与核对说明
- 问题
- 标量分类器丢失跨交互语境,也难覆盖预先未知的滥用类型。
- 方法
- 结构化摘要保留意图、结果与元数据;二级摘要附代表性交互引用及危害分级;人工查看引用和随机样本验证。
- 取舍
- 压缩减少审核成本,但可能遗漏细节或产生推断;摘要保留原文同等访问权限而非自动视为脱敏。
- 局限
- 使用级摘要难直接衡量,需人工验证;未公布完整精确率、召回率及样本量。
- 事实边界
- 96%准确与98%完整指人工评为 Mostly 或以上,并非完全无错;Theodore Sumers 主导研究及执笔。
- 证据位置
- Hierarchical summarization;Ensuring Summary Quality;Acknowledgements,L10–65。
- 来源
- 原始分类:分层摘要生产监控
来源栏目:Alignment Science Blog / Safeguards
集合:纳入文章
发布日期:2025-02-27 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。 区分交互级摘要与使用级摘要;摘要仍沿用原始内容的访问控制。已核对本文可提取主文,未把摘要质量比例当作完整检测精确率或召回率。
Constitutional Classifiers: Defending against universal jailbreaks
根据自然语言内容规则生成训练数据,用输入输出分类器补充基础模型安全训练。
展开分析与核对说明
- 问题
- 越狱可绕开内置拒绝机制,但防护若误拒过多或成本太高也难部署。
- 方法
- 规则生成提示与回答,做语言及风格增强,加入正常查询训练;分别运行人工红队、自动评测和上线挑战,并复核自动裁判。
- 取舍
- 安全性、正常请求误拒和计算开销要共同评估;更新版报告23.7%额外计算。
- 局限
- 2月13日更新承认公开挑战发现一次通用越狱;自动裁判自身有拒绝和评分错误,不能只看最初成功声明。
- 事实边界
- 自动攻击成功率86%降至4.4%来自指定模型与一万提示;初次红队和后续挑战不是同一版本或试验。页面更新至2025-02-18。
- 证据位置
- How it works;Limitations;Live demo results;Change log,L53–156。
- 来源
- 原始分类:合成数据安全防护
来源栏目:Anthropic Research
集合:纳入文章
发布日期:2025-02-03 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Claude SWE-Bench performance
展示以简单提示、Bash和编辑工具构建的编码代理,在SWE-bench Verified达到49%,并用一条真实修复轨迹解释工作方式。
展开分析与核对说明
- 问题
- 基准衡量的是模型加执行框架,而非裸模型;工具设计和运行环境足以显著改变结果。
- 方法
- 让模型自主探索、复现、编辑与测试;编辑采用唯一字符串匹配并强制绝对路径,减少格式和相对目录错误。
- 取舍
- 自主反复尝试能提高完成率,但部分任务超过100轮和10万token,带来明显时间与成本。
- 局限
- 隐藏测试可能拒绝合理替代方案;环境安装故障会污染评分;当时执行器不支持查看图像。
- 事实边界
- 49%属于文中版本与配置的历史成绩,不代表当前能力;未报告完整执行框架开源。
- 证据位置
- 正文 Achieving state-of-the-art、Results、Examples、Challenges,L34–353。
- 来源
- 原始分类:编码代理与SWE-bench
来源栏目:Engineering
集合:纳入文章
发布日期:2025-01-06 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。 原链接现重定向至 https://www.anthropic.com/research/swe-bench-sonnet,保留索引时的来源栏目。
Circuits Updates — January 2025
公开 SAE 与 crosscoder 的训练配置,重点减少失活特征并稳定不同规模数据上的优化。
展开分析与核对说明
- 问题
- 给外部复现者一个可执行起点,而非宣称所有设置最优。
- 方法
- 采用 JumpReLU、直通梯度、tanh 稀疏惩罚及 pre-act 辅助损失;说明初始化、归一化、Adam、梯度裁剪与稀疏系数渐增。
- 取舍
- 训练配置更具体,但缺少逐项消融。
- 局限
- 作者明确未充分消融;正文已更正初始化尺度。
- 事实边界
- 月份为 2025-01,未据此编造发布日期日。配置陈述来自作者。
- 证据位置
- Dictionary Learning Optimization Techniques 全节,L15–39。
- 来源
- 原始分类:评测与可解释性工程
来源栏目:Transformer Circuits
集合:纳入文章
发布日期:2025-01(仅确认月份)(未确认日级日期) - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。 仅确认 2025 年 1 月,未补造具体日。
Building effective AI agents
区分预先规定路径的工作流与由模型动态选择步骤的代理,主张从最简单可行方案开始,再用评测证明复杂度值得增加。
展开分析与核对说明
- 问题
- 许多任务并不需要自主代理;过度框架化会掩盖提示和响应,使调试更难。
- 方法
- 依任务结构选择串联、路由、并行、协调者—工作者或评估—改进循环;开放任务才用环境反馈驱动的自主循环。
- 取舍
- 固定工作流更可预测,自主代理更灵活但成本高且错误会累积,因此需要停止条件、沙箱和人工检查点。
- 局限
- 模式不是通用配方;代码测试只能证明部分功能,仍需人工审查系统要求。
- 事实边界
- 当前页面已更新部分模型和框架名称,并提示参考Managed Agents;不能把这些名称倒推为2024年首发内容。
- 证据位置
- 正文五类工作流、自主代理、两项附录,L48–226。
- 来源
- 原始分类:代理架构设计模式
来源栏目:Engineering
集合:纳入文章
发布日期:2024-12-19 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。 原链接现重定向至 https://www.anthropic.com/research/building-effective-agents,保留索引时的来源栏目。 当前页明确提示工具生态已变化并指向 Managed Agents;当前正文含更新示例,不视为 2024 年页面的不可变历史快照。
Clio: A system for privacy-preserving insights into real-world AI use
从大量交互中自动提炼分层主题,为发现未知使用方式和安全分类器盲点提供工具。
展开分析与核对说明
- 问题
- 预设风险分类难以发现未知模式,人工逐条查看又会增加隐私暴露。
- 方法
- 提取属性、语义聚类、生成去私密摘要、构建层级;用最小用户与对话数量阈值及最终隐私检查限制展示。
- 取舍
- 聚合保留趋势但牺牲细粒度信息;安全调查另有严格授权,不能将分析隐私保护理解为绝不查看账户。
- 局限
- 模型可能漏掉个人信息;需要审计、最小化保留与跨语言验证。文章当时不将其输出直接用于自动执法。
- 事实边界
- 2026-08-24更新名称为 Anthropic Insights;隐私保障为作者系统设计和测试主张,不是形式化零泄漏证明。
- 证据位置
- How Clio works;Ethical considerations;Footnotes,L57–140。
- 来源
- 原始分类:隐私保护分析与安全监控
来源栏目:Anthropic Research
集合:纳入文章
发布日期:2024-12-12 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
A statistical approach to model evaluations
给工程评测五项可执行的统计建议,避免把抽题与采样噪声当成能力提升。
展开分析与核对说明
- 问题
- 观察到的平均分只是潜在题目总体表现的一次估计。
- 方法
- 报告均值标准误;按共享题干聚类;重复采样后先取题内均值;比较同题配对差;预先做功效分析确定题量。
- 取舍
- 更多重采样需要推理预算;配对分析可利用已有数据降低方差,但须保留题级对应关系。
- 局限
- 聚类结构及抽样分布假设仍重要;无思维链时用正确选项概率的建议不适用于路径依赖推理。
- 事实边界
- 聚类标准误可能超过朴素值三倍为作者经验,非普遍常数;正文未单列作者,论文未另行全文解读。
- 证据位置
- Recommendation #1–#5 与 Conclusion,L48–104。
- 来源
- 原始分类:评测统计与实验设计
来源栏目:Anthropic Research / Alignment
集合:纳入文章
发布日期:2024-11-19 - 核对
- 正文核对 · 2026-11-09
方法:当前官方主文审阅及相关主张核对
已审阅当前可提取主文并核对本条问题、方法、取舍和局限;外链代码、论文、视频及实验未逐项验收。
Contextual retrieval in AI systems
在切块前后补上该片段在原文中的短说明,再做向量和BM25检索,缓解独立片段缺少实体、时间等背景的问题。
展开分析与核对说明
- 问题
- 传统切块保留局部句子却丢失指代背景,导致语义检索和精确匹配都找不到正确材料。
- 方法
- 用完整文档生成每块50–100token上下文;融合向量与BM25结果,并可将候选150块重排到20块。
- 取舍
- 预处理和重排增加成本及延迟;更多候选提高召回,却也可能把无关信息送入模型。
- 局限
- 实验覆盖若干语料和嵌入模型,不代表任意领域最优;分块边界、提示和候选数量仍需本地评测。
- 事实边界
- 49%和67%是检索失败率相对下降(5.7%→2.9%/1.9%),不是回答正确率提升。
- 证据位置
- 正文方法、实验与实现考虑,L45–189;外链附录未作为已全文解读内容。
- 来源
- 原始分类:检索增强与上下文补全
来源栏目:Engineering
集合:纳入文章
发布日期:2024-09-19 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。 原链接现重定向至 https://www.anthropic.com/research/contextual-retrieval,保留索引时的来源栏目。
Circuits Updates — August 2024
将 SAE 特征的可解释性转成可重复评测,并比较六类训练变体。
展开分析与核对说明
- 问题
- 仅有稀疏度和重建误差改善,不能证明特征更易理解。
- 方法
- 用对比句测试激活预测,用随机/邻近特征配对测试语义区分;通过人工抽查、训练步数和模型规模趋势检查评测。另报告特征自解释复现。
- 取舍
- 低成本自动评价只能覆盖可解释性的一部分。
- 局限
- 内部模型与超参数不完全复制外部实验;小分差缺乏分辨力,原因未充分消融。
- 事实边界
- 月份 2024-08;不把早期研究结果写成稳定排名。
- 证据位置
- Interpretability Evals;Case Study;Self-explaining SAE features。
- 来源
- 原始分类:评测与可解释性工程
来源栏目:Transformer Circuits
集合:纳入文章
发布日期:2024-08(仅确认月份)(未确认日级日期) - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。 仅确认 2024 年 8 月,未补造具体日。
Circuits Updates — July 2024
混合研究评论与工程复现;纳入重点是注意力透视表和特征敏感度评测。
展开分析与核对说明
- 问题
- 解释图可能由实现偏差产生;单个特征也不等于完整概念。
- 方法
- 构造 QK/OV 透视表并校验 logits,去除层归一化偏置影响;用 Claude 筛选真实文本,再检查特征覆盖。
- 取舍
- 筛真实语料减轻生成样本分布偏差,却依赖概念评级和代表性。
- 局限
- 透视表经验主要来自小模型;稀有概念样本不足,特征协作仍解释不完整。
- 事实边界
- 月份 2024-07;前半理论假设与后半工程方法分开,不提取生物样例细节。
- 证据位置
- Testing Base Model Quality Using Attention Pivot Tables;Measuring feature sensitivity。
- 来源
- 原始分类:评测与可解释性工程
来源栏目:Transformer Circuits
集合:纳入文章
发布日期:2024-07(仅确认月份)(未确认日级日期) - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。 仅确认 2024 年 7 月,未补造具体日。
The engineering challenges of scaling interpretability
解释稀疏自编码器研究背后的大规模数据打乱与特征可视化管线,重点是让研究能在真实内存和吞吐约束下开展。
展开分析与核对说明
- 问题
- 计算资源有限时,研究瓶颈不只在模型训练,也在跨海量激活记录重排数据及检索可视化样本。
- 方法
- 采用递归多轮分区打乱,避免每个任务重复扫描全部数据;可视化先按数据和特征分片,再转置整理周边激活。
- 取舍
- 额外读写和阶段复杂度换来可控内存与扩展性;团队在验证研究方向后才投入完整基础设施。
- 局限
- 文中的容量推演说明扩展路径,不等于每个规模都已运行;没有发布完整生产管线或独立性能比较。
- 事实边界
- 招聘段落不影响纳入,因为主体提供具体工程机制;这里只记录作者报告的实现与约束。
- 证据位置
- 正文 Shuffling data、Feature visualization、Research infrastructure 各节。
- 来源
- 原始分类:可解释性研究的数据工程
来源栏目:Research / Interpretability
集合:纳入文章
发布日期:2024-06-13 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Circuits Updates — June 2024
复现 TopK 与 Gated SAE,并检验优化收益是否牺牲可解释性。
展开分析与核对说明
- 问题
- 重建误差下降可能只是缓解激活收缩,不代表学到更好的概念基础。
- 方法
- 报告初始化与辅助损失调整;比较稀疏度、误差、特征密度,结合人工盲评和 Clerp 自动解释评分。
- 取舍
- 稀疏度可直接控制,但较高激活密度可能出现难解释特征。
- 局限
- 人工样本有限,误差条可能过度自信;指标仍不能直接证明调试价值。
- 事实边界
- 月份 2024-06;他组研究仅作为文章综述,不计作 Anthropic 独立贡献。
- 证据位置
- Comparing TopK and Gated SAEs to standard SAEs;Research by Other Groups。
- 来源
- 原始分类:评测与可解释性工程
来源栏目:Transformer Circuits
集合:纳入文章
发布日期:2024-06(仅确认月份)(未确认日级日期) - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。 仅确认 2024 年 6 月,未补造具体日。
Long context prompting for Claude 2.1
通过人工插入句子的检索实验,区分模型没找到信息与找到后不愿据其作答两种失败。
展开分析与核对说明
- 问题
- 真实文档上的谨慎训练可能让模型对突兀插入的句子过度保守,因此单一针藏干草堆测试会混合检索与回答倾向。
- 方法
- 比较插入句与原生句,将文章顺序随机化,并在助手回复开头引导先给最相关句子,再观察跨位置召回。
- 取舍
- 更积极引用可提高该测试得分,但不能据此认为所有长文推理或事实可靠性问题都已解决。
- 局限
- 作者报告原测试27%升至98%;对训练原因的解释明确是推测,且单句检索不覆盖复杂多跳任务。
- 事实边界
- 尽管目录标为Announcements,主体有对照诊断与提示方法,因此纳入;不把原因假说记为已证实机制。
- 证据位置
- 正文 Debugging long context recall、Prompting及脚注,L34–71。
- 来源
- 原始分类:长上下文检索与提示校准
来源栏目:Claude Resources / Articles
集合:纳入文章
发布日期:2023-12-06 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Challenges in evaluating AI systems
作者回顾从选择题、第三方框架到人工与模型生成评估的实施困难,说明得到一个分数远比证明它测到了目标能力容易。
展开分析与核对说明
- 问题
- 格式、错误标签、拒答和基础设施适配会改变结果,表面标准化不能保证跨模型可比。
- 方法
- 用控制检查识别BBQ零偏见分数背后的不作答;审查BIG-bench实现与扩展性,比较HELM统一提示和模型特定格式,并分析人工A/B与外部审计。
- 取舍
- 独立评估减少利益冲突,却需要内部技术协作;统一提示便于比较,也可能偏离模型实际使用方式。
- 局限
- 案例来自作者组织经验,不是统一对照实验;后半政策资助与治理建议单独视为倡议。
- 事实边界
- 约5%格式影响、实现人力和时间均为作者报告;不推定这些历史障碍在今日仍原样存在。
- 证据位置
- Challenges全部小节、Policy recommendations及脚注。
- 来源
- 原始分类:评估基础设施与测量有效性
来源栏目:Anthropic Research / Frontier Red Team
集合:纳入文章
发布日期:2023-10-04 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Garcon
让研究者在 notebook 中检查和干预跨多机模型,同时保持统一交互接口。
展开分析与核对说明
- 问题
- 大型模型放不进单节点,普通 PyTorch hooks 难直接延伸到集群。
- 方法
- 远程服务自动识别模型资源;按需安装探针,用保存上下文在服务端聚合;每 GPU 进程同步执行,rank 0 接 RPC 并广播、汇集。
- 取舍
- 灵活有状态接口较繁琐,却避免传输全部激活;易用包装层只覆盖部分需求。
- 局限
- 实现高度依赖内部模型基础设施;文中示例并非经验证可直接运行的独立发行包。
- 事实边界
- 作者名单见正文,Nelson Elhage 标核心贡献者;约千行不含大量既有基础设施。未执行代码。
- 证据位置
- The core interface;Motivation;Implementation notes;Closing notes,L17–129。
- 来源
- 原始分类:分布式模型研究基础设施
来源栏目:Transformer Circuits / Anthropic
集合:纳入文章
发布日期:2021-12-22 - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。
Automated Weak-to-Strong Researcher
用独立沙箱中的并行代理开展弱监督研究;其研究长文与ANT-222解说不是同一正文。
展开分析与核对说明
- 问题
- 研究自动化的瓶颈转向可信评价,而不只是生成想法。
- 方法
- 共享研究记录和代码快照;隔离标签的远程评价;为代理指定不同方向,观察探索多样性并测试跨数据迁移。
- 取舍
- 自主工作流比固定步骤灵活,但依赖评价可靠性;开发期观察不等于充分对照结论。
- 局限
- 重复评测使测试集承担验证集角色;新数据上的迁移与生产规模收益仍有限,不能泛化为研究全面自动化。
- 事实边界
- 补完旧目录长文,不计新发布;以平台架构和评测方法纳入,不复述规避评价的操作。页面未显示明确发布日期,留空。
- 证据位置
- Environment;Main Findings 3.4—3.5;Case Studies;Reward Hacking;Preliminary Results;Future work。
- 来源
- 原始分类:自动化研究代理与评测
来源栏目:Alignment Science Blog
集合:纳入文章
发布日期:发布日期未确认(未确认日级日期) - 核对
- 部分核对 · 2026-11-09
方法:当前官方正文关键段与原表方法、取舍、局限对照;未逐项完整复核
已获取一手正文,并对原表的问题、方法、取舍和局限核对相关关键段;仍有详细方法、数值、示例或限制未逐项查证,保留为原表分析,不作为本次已完整核实的结论。 正文与 ANT-222 解说为不同文章;当前快照未确认日级发布日期。长文伪代码与全部附录未在本次逐项复核。
当前筛选下没有文章。
方法与覆盖
全部数据集
覆盖范围
- 原索引记录
- 248
- 独立纳入
- 189
- 排除
- 52
- 重复
- 1
- 历史内容受限
- 4
- 历史正文获取失败
- 2
- 原索引主表共 248 条:189 条独立纳入、52 条排除、1 条重复、4 条内容受限未分析、2 条原正文获取失败。
- 本次核验范围为 189 条已纳入文章。历史未判定和排除条目不混入正文核对比例。
- 历史 Research 索引与官网当前计数口径不同;Resources 页面项数与归档 URL 仍有差 2 的已知缺口,不声称全站历史穷尽。
- 原 sourceType 是索引时的来源栏目;官网路径迁移不自动改变文章分类。
- 5 篇未确认日级日期,保留空日期;其中 4 篇有已知年份和月份,年度统计可使用 year,其余 1 篇单列日期未知。
核对等级
本期核对日期 ,索引截止 。
- 正文核对 30 篇
- 已审阅当前可提取主文,并核对本条问题、方法、取舍和局限。外链代码、论文与实验未逐项验收。
- 部分核对 159 篇
- 只核对正文关键段;未核实的字段仍明确归于原索引分析。
- 无法获取 0 篇
- 本轮未能取得可核对的一手正文。
- 待核对 0 篇
- 尚未进行本轮核对。
方法说明
- 文章集合来自截至 2026-11-07 的既有索引,2026-11-09 对当前一手网页核对;未额外扩展收录范围。
- 发布日期用于观察公开讨论顺序,不代表公司内部技术采用或上线时间;现网页可能更新,版本差异逐条说明。
- 原始细分类完整保留,展示领域按工程问题人工归并;一篇文章可关联多个领域,因此领域计数之和可以超过独立文章数。
- 正文核对表示当前可提取主文及本条主张已审阅;部分核对表示只核对正文关键段,未核实字段仍明确归于原表分析。HTTP 成功不是内容核验。
- 证据定位保留原表的章节与历史行号,历史行号不等于本次网页或缓存行号;本次核验方法和限制逐篇注明。
- 跨文判断标记为分析归纳,并列出支持文章及其具体贡献;不把相关性当因果,不把不同任务上的架构选择写成单向替代。
- 性能、价格、成功率和安全结果保留作者实验条件;未独立复现,也不把历史配置当作当前产品使用指南。