Awesome Harness Engineering
来源:https://github.com/walkinglabs/awesome-harness-engineering 收录时间:2026-05-18
概述
Harness Engineering 精选资源列表,涵盖文章、Playbook、基准测试、规范和开源项目。聚焦于让 Agent 在真实工作流中更可靠,特别是长时间运行的编码和研究任务。
资源分类索引
📚 课程 & 学习资源
| 资源 | 说明 | |------|------| | learn-harness-engineering | 项目制课程,围绕 Electron 知识库 App | | OpenAI: Harness Engineering | OpenAI 旗舰报告:架构约束、仓库指令、浏览器验证、遥测 | | Anthropic: Effective harnesses | 初始化 Agent、功能列表、init.sh、自验证、交接工件 | | Anthropic: Harness design | 长时间应用开发的任务状态和评估器设计 | | LangChain: Anatomy of an Agent Harness | Agent = 模型 + Harness(prompts、tools、middleware、orchestration) | | Martin Fowler: Harness Engineering | ThoughtWorks:上下文工程、架构约束、熵的"垃圾回收" | | Skill Issue: Harness Engineering | 编码 Agent 的弱结果往往是 harness 问题而非模型问题 | | Your Agent Needs a Harness | 状态、重试、trace、并发应作为一等基础设施 | | Greenfield vs Brownfield AI | 三类代码库分类:agent-native greenfield / legacy brownfield / vibecoded inheritance | | CAR 分解论文 | Control-Agency-Runtime 分解 + HarnessCard 报告框架 | | Many Hands Engineering | 多 Agent 共享公共层的框架,human stewardship |
🧠 上下文、记忆 & 工作状态
| 资源 | 说明 | |------|------| | Anthropic: Context Engineering | 上下文窗口 = 工作记忆预算,不是垃圾场 | | Manus: Context Engineering | KV-cache 局部性、工具掩码、文件系统记忆 | | Thoughtworks: Context for Coding Agents | 塑造任务环境让编码 Agent 保持高效 | | HumanLayer: Advanced Context Engineering | 减少上下文漂移,让 session 更容易恢复 | | HumanLayer: Context-Efficient Backpressure | 防止 Agent 在低价值工作上浪费上下文 | | OpenHands: Context Condensation | 有界对话记忆:保留目标、进度、关键文件、失败测试 | | Writing a good CLAUDE.md | 创建持久的仓库本地指令 |
🛡️ 约束、护栏 & 安全自治
| 资源 | 说明 | |------|------| | Claude Code Sandboxing | 通过更好的沙箱和策略减少审批摩擦 | | Code execution with MCP | 通过 MCP 给 Agent 受控的执行能力 | | Writing effective tools | 让工具接口更容易被模型正确调用 | | Mitigating Prompt Injection | 确认模式、分析器、沙箱、硬策略 | | Assessing quality in-loop | 将质量检查移入循环而非事后人工审查 |
📋 Spec、Agent 文件 & 工作流设计
| 资源 | 说明 | |------|------| | Claude Code Best Practices | 仓库结构、检查点、验证、委托 | | AGENTS.md | 轻量开放格式,告诉 Agent 如何在代码库中工作 | | agent.md | 机器可读的 Agent 指令标准化 | | GitHub Spec Kit | GitHub 的 spec-driven 开发工具包 | | Spec-Driven Development | Thoughtworks:强 spec 让 AI 辅助交付更可靠 | | 12 Factor Agents | 生产 Agent 操作原则 | | 12-Factor AgentOps | 运维导向:上下文纪律、验证、可复现工作流 |
📊 Evals & 可观测性
| 资源 | 说明 | |------|------| | Testing Agent Skills with Evals | OpenAI:Agent traces → 可复现 evals | | How to Evaluate Agent Skills | OpenHands:有界任务、确定性验证器、无技能基线 | | Agent evals (OpenAI) | 任务级和工作流级评估 | | Inspect AI | UK AISI 开源评估框架 | | OpenTelemetry GenAI SemConv | LLM/Agent 工作流的标准 span/metric 约定 | | AgentOps | 开源 Python SDK:监控、session 回放、成本追踪 | | agenttrace | 本地优先 TUI/CLI 审计 Agent traces |
🏆 基准测试(30+)
用于比较 Harness 质量(而非模型质量)的基准,涵盖上下文处理、工具调用、环境控制、验证逻辑。
重点:
- Agent Arena — ELO 排名对抗赛
- AppWorld — 可控 App 世界,状态+执行单元测试
- Terminal-Bench 2.0 / Harbor — 终端任务评估
- EvoClaw — 连续软件进化评估(回归积累、长期精度损失)
- ClawBench — 搜索/推理/编码/安全/多轮对话全覆盖
- ClawWork — 真实经济基准:44 职业,收入 vs token 成本
- GAIA — 通用 AI 助手基准
- MCP Bench / MCP Universe — MCP 交互评估
🔧 运行时、Harness & 参考实现
| 项目 | 说明 | |------|------| | snarktank/ralph | 自主循环 Agent(bash) | | ralph-orchestrator | Rust 进化版,Hat 角色系统 | | deusyu/harness-engineering | 深度学习档案(12 篇翻译 + 原创分析) | | walkinglabs/learn-harness-engineering | 项目制课程(6 个递进项目) |
Harness 五大子系统速查
Instructions → AGENTS.md / CLAUDE.md / feature_list / docs
State → progress.md / feature_list / git log / session handoff
Verification → tests + lint + type-check + smoke runs + e2e
Scope → 一次一个功能 / 明确定义"完成"
Lifecycle → init.sh → clean-state → handoff → commit when safe