Research · Models · Products and Tools
Nvidia 研究显示,AI 智能体表现的关键在于 harness 而非底层模型
Nvidia 研究人员通过定制 harness 和 supervisor 组件使 Claude Opus 5 在 ARC-AGI-3 基准上达到 100%,而未使用 harness 时得分仅为 30%。微软研究也发现 LLM 在长时程文档编辑任务中错误频出。
阅读 TechCrunch 原文为什么重要
该研究表明智能体的系统架构和脚手架(harness)可能比底层模型本身更重要,为构建可靠 AI 智能体提供了新方向。
关键事实
事实 1
Nvidia 研究人员通过定制 harness 使 Claude Opus 5 在 ARC-AGI-3 基准上取得 100% 的成绩。
来源与依据
Simply by using a custom harness tweaked to handle memory well and including a “supervisor” boss-like component, researchers got Claude Opus 5 to achieve a 100% score on the interactive reasoning benchmark ARC-AGI-3
事实 2
在没有 harness 辅助的情况下,Claude Opus 5 在 ARC-AGI-3 上的得分是 30%,是测试模型中的最高分。
来源与依据
Without the harness, Opus 5 scored 30%, which was the top result among all the models tested.
事实 3
微软在四月的研究中测试了 19 个 LLM 在长时程文档编辑任务上的表现,发现包括前沿模型在内的所有模型都会在文档中产生错误。
来源与依据
Microsoft published research in April that tested 19 LLMs on long-horizon tasks involving document editing and discovered that all the models, including frontier ones, filled the documents with errors.