Claude挣钱强于o1！OpenAI开源百万美元编码基准，检验大模型钞能力

你在学习科技周边相关的知识吗？本文《Claude挣钱强于o1！OpenAI开源百万美元编码基准，检验大模型钞能力》，主要介绍的内容就涉及到，如果你想提升自己的开发能力，就不要错过这篇文章，大家要知道编程理论基础和实战操作都是不可或缺的哦！

AI领域昨日捷报频传：马斯克xAI发布了Grok-3旗舰大模型；DeepSeek梁文锋团队则公开全新注意力架构NSA。OpenAI迅速回应，推出并开源了SWE-Lancer基准测试，用于评估AI大模型的软件工程能力。该基准包含1400多个来自Upwork平台的真实软件工程任务，总价值高达百万美元。这意味着，如果模型能完成所有任务，就能获得同等报酬。

SWE-Lancer基准涵盖独立工程任务（例如bug修复和功能实现）和管理任务，任务难度和报酬成正比。独立工程任务经三重验证的端到端测试评级，管理任务则根据工程经理的评估结果判定。

SWE-Lancer任务模拟了现代软件工程的复杂性，平均耗时超过21天。

OpenAI的测试结果显示，包括GPT-4o、o1和Anthropic Claude 3.5 Sonnet在内的顶尖模型仍无法解决大部分任务。Claude 3.5 Sonnet表现最佳，完成任务价值达403,325美元。

为促进研究，OpenAI开源了统一的Docker镜像和SWE-Lancer Diamond公共评估集。通过将模型性能与实际经济价值挂钩，OpenAI旨在深入研究AI模型开发的经济效益。

• 论文标题：SWE-Lancer: Can Frontier LLMs Earn $1 Million from Real-World Freelance Software Engineering?
• 论文地址：https://arxiv.org/pdf/2502.12115
• 项目地址：https://github.com/openai/SWELancer-Benchmark

SWE-Lancer数据集包含1488个来自Upwork的软件工程任务，总价值百万美元，分为个人贡献者（IC）任务和管理任务两类。IC任务侧重于bug修复和功能实现，管理任务则模拟软件工程经理的角色选择最佳解决方案。

SWE-Lancer数据集由OpenAI研究人员和100名软件工程师创建，确保任务真实性，并避免模型作弊。

测试结果显示，现有模型难以完全胜任真实软件工程任务，虽然能辅助解决一些问题，但距离完全取代人类工程师还有距离。模型在定位问题方面表现出色，但在深入理解和解决根本问题方面仍有不足。

以上就是本文的全部内容了，是否有顺利帮助你解决问题？若是能给你带来学习上的帮助，请大家多多支持golang学习网！更多关于科技周边的相关知识，也可关注golang学习网公众号。