首页 / 资讯中心 / 文章详情

oh-my-agent:为什么AI编码代理说“测试全过“不可信?多智能体验证框架完整解读

oh-my-agent:为什么AI编码代理说“测试全过“不可信?多智能体验证框架完整解读 ★ FEATURED ARTICLE
人工智能AI Agent多智能体Agent 编排Agent 评测AI 技能开发工具CLI【免费下载链接】oh-my-agentMechanical verification for AI coding agents — skills pack or full harness (stop-hook gates, artifact checks, independent judges).项目地址https://gitcode.com/gh_mirrors/oh/oh-my-agent点击查看免费下载让 AI 编码代理完成一项任务它最后总会回一句测试全过所有标准达标。但这句话说得毫无成本——同一个会话里没有任何东西能反驳它。oh-my-agent 是一个面向 AI 编码代理的多智能体验证框架multi-agent verification harness它的核心主张是代理会叙述成功oh-my-agent 只核查产出物。Stop hook 门禁、反绕过产物检查、独立 judge 复核、事件溯源日志四道机械关卡把自述变成可证伪的断言。一、测试全过这句话为什么没有任何约束力 传统 AI 编程助手由单个模型包揽前后端、数据库、安全。它说我做完了你只有两种选择信或者不信。不信的话只能自己去跑一遍。问题出在三点问题说明自证循环代理在同一个上下文里实现又验收它不会真的怀疑自己上下文稀释一个模型同时懂 6 个领域每个领域都只懂一半结果不可审计会话结束后除了代理的总结没有任何持久记录证明它做了什么所以测试全过不是事实陈述而是一句零成本的自述。oh-my-agent 的思路是不问 LLM看起来对不对只问机器能回答的问题——命令是不是以 0 退出文件在不在磁盘上二、oh-my-agent 的解法四道机械验证关卡 项目官方文档 docs/README.zh.md 把这套机制概括为一句话命令要么以 0 退出要么没有文件要么在磁盘上要么不在。1. Stop hook 门禁测试不过会话就不能结束代理想结束会话时Stop hook 会先拦下来项目自己的typecheck、test、lint脚本必须全部退出码为 0才放行。而且只有这三个命令是可执行的——代理往状态文件里写别的命令会被直接忽略绝不执行。加固次数上限 5 次一个永远飘红的门禁也不会把你困死。2. 反绕过门禁Anti-Circumvention Gate四样抄近路造不出来的产物oma ralph verify --json会核查四个必然留下的产出物ultrawork 的阶段记录、plan JSON、一个独立 QA 代理的结果文件、一个独立重构代理的结果文件。产物缺失就说明该阶段根本没跑过——自述里怎么写都不算数。判定以这条命令输出的 JSON 为准而不是代理的总结。工作流定义见 ralph.md。3. 独立 judge全新上下文的第三方复核judge 被 spawn 成一个独立代理上下文是全新的只知道验收标准本身绝不知道实现方声称修好了什么。每一轮它都会重新校验每一条标准包括之前已 PASS 的——因为修 C2 时 C1 悄悄回退正是最常见的翻车方式。协议详见 judge-protocol.md。4. 事件溯源日志每次判定都留痕每一次门禁通过、门禁失败、决策都会追加一行 JSON 到~/.oma/u/0/sessions/{sid}/events.jsonl盖上厂商与会话 id。只追加、可事后审计格式规范在 event-spec.md。预算耗尽时 Stop hook 也会诚实停手、记录部分完成状态而不是假装收工。三、基准测试同一道题5 个框架的真实分数 光说不算。oh-my-agent 团队设计了一场公开基准测试benchmarks/README.md让 5 个 Claude Code 控制框架在完全隔离的环境里用同一份原始提示词各自从零构建一个儿童 3D 创意学习平台 MVP提示词见 prompt.md再按 5 个轴共 100 分机械打分。下图是 oh-my-agent 生成的落地页Imagine Worlds结构清晰、功能入口完整最终成绩单5 轴满分 100排名框架总分功能 /35规格 /15视觉 /20工程 /20效率 /10 1oma80.63213.315.3155 2omc74.133.56.714.414.55 3superpowers72.9309.311.61484vanilla70.728.511.71212.565ecc70.228.59.713154运行开销对比很有意思框架轮次耗时花费源码文件数单文件成本vanilla428m 56s$2.3716$0.15oma3115m 56s$4.0421$0.19superpowers398m 13s$1.2818$0.07omc619m 02s$1.9214$0.14ecc7910m 20s$3.8422$0.17oma 用最少的轮次31 轮做出了最多源码文件21 个、最接近完整规格的实现。注意规格轴的分差oma 拿到了 13.3/15而 omc 只有 6.7/15——说加载了 40 多个技能和把 13 项需求逐项做出来是两回事。vanilla裸 Claude Code的生成结果长这样对比之下差距一目了然oma 框架下的 3D 世界编辑器保存并重载后对象面板、主题选择、Save 按钮等状态完整还原诚实的口径说明 ⚖️打分由脚本自动执行score.shspec/visual 两轴由 LLM 裁判跑 3 轮取平均原始分数在 multiaxis-summary.json每个框架只跑 1 次样本量为 1重新跑可能产出不同代码superpowers 首次运行被其 brainstorming 门禁拦截测试中做了强制绕过非完全公平完整方法论见 benchmarks/design.md原始分数见 scores.json四、快速上手三步装好 oh-my-agent 第 1 步安装。一行命令即可自动安装缺失的 bun、uv、serenabunx oh-my-agentlatest第 2 步选择预设。安装器会让你选技能预设Backend / Frontend / Fullstack / Research 等对应不同的智能体组合例如 Frontend 预设包含 architecture brainstorm design frontend qa scm 等。第 3 步验证 使用。先跑oma doctor确认环境然后直接用斜杠命令或自然语言下达任务命令用途/work跨多个代理完成一个范围明确的功能/ultrawork五个带门禁的质量阶段审查都在隔离的新会话中跑/ralph反复跑 ultrawork直到独立 judge 确认每条标准都过oma verify agent对指定角色运行机械检查组合官方建议的第一次任务是一个小而单领域的改动记录文件、检查命令和退出状态。完整步骤见 quick-start.md。五、适合谁用参考 why-oh-my-agent.md 的官方定位这套东西适合✅多代理主机/多厂商团队——技能、工作流、规则统一存放在可移植的.agents/目录随代码版本管理Claude Code、Codex CLI、Cursor、Antigravity、OpenCode 等十几种运行时都能投影使用✅需要可复现团队流程的项目——/work、/orchestrate、/ultrawork、/ralph提供从单任务到并行编排的完整阶梯✅要求结果可审计的场景——每次门禁判定落盘为事件日志事后逐条可查如果你只用单一代理、不需要共享技能与验证门禁多出来的配置和 CLI 命令可能不值得——它本质是一层协调与验证层不替代宿主模型和验收标准本身。小结AI 编码代理最大的信任陷阱不是做不出来而是说做了。oh-my-agent 的完整答案可以浓缩成四件事Stop hook——测试不过会话不许结束产物核查——阶段跑没跑看磁盘上有没有留下的东西独立 judge——全新上下文每轮重验每一条标准事件日志——所有判定只追加、可审计它让测试全过从一个无法反驳的口头承诺变成一个可以被机械证伪的断言。对于任何开始认真使用多智能体写代码的团队这套纪律可能比再多一个技能包都重要。赞分享人工智能AI Agent多智能体Agent 编排Agent 评测AI 技能开发工具CLI【免费下载链接】oh-my-agentMechanical verification for AI coding agents — skills pack or full harness (stop-hook gates, artifact checks, independent judges).项目地址https://gitcode.com/gh_mirrors/oh/oh-my-agent点击查看免费下载相关推荐nao开源分析智能体完全解读为什么它被称为「1 Open-Source Analytics Agent」nao开源分析智能体完全解读为什么它被称为「 1 Open Source Analytics Agent」 nao 是一个开源分析智能体AnalyticsPrismer Cloud 是什么一文读懂 AI Agent 智能运行时的完整架构Prismer Cloud 是什么一文读懂 AI Agent 智能运行时的完整架构 Prismer Cloud 是一个专为 AI Agent 打造的 智能运行GitHub Hovercard API令牌配置指南如何突破60次/小时限制到5000次/小时GitHub Hovercard API令牌配置指南如何突破60次/小时限制到5000次/小时 GitHub Hovercard是一个强大的浏览器扩展为Gi创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
阅读完成 · 觉得有帮助?
咨询建站