短的结论:一己之力搅动编程模型格局
基本信息:
- 成本:$5每百万
- 平均行数:约200行(注释率13%)
- 速度:约160字每秒
- 平均耗时:46秒
编程成绩:

*表格为了突出对比关系,有一定裁剪,不是完整排序
**使用官方推荐温度0.7
***测试方式:参见大语言模型-编程能力测评 25-07月榜(新增C++)
****完整榜单更新在Github
编程语言分布:

*图中,每种语言除第一名标绿以外,相差0.3分以内的第二名也标绿。这是考虑到测试本身有随机性,0.3分的差距可认为属于同一水平。
本周算Qwen的开源周,一天放一个模型,今天的产品是专注各类编程应用场景的Coder版。昨天通用模型235B干翻自家最强推理模型,那么参数更高,训练材料里代码占比更高的Coder模型拿下更高分数也在意料之中。
在官方的宣传中号称“与Sonnet 4媲美”,乍一看Coder成绩在Sonnet4之上,但实际其错误率,稳定性都比Sonnet 4还差一截。并且Coder的异常是平均分布在各种语言中,而Sonnet 4的异常集中在C++。同时Coder在各种语言上均有概率写出逻辑错误的0分代码,而Sonnet 4的0分也主要集中在C++和少量Java题目。
如果按中位分排序,Coder仅略高于GPT4.1 mini,低于OGA三家。这意味着在实际使用中,Coder的整体体验要弱于Sonnet 4一些。
以下是更详细的对比分析。
优势:
- 对于任务明确,需求清晰的问题,Coder的表现还不错。如#2正则表达式解析、#4售票系统、#10三视图投影,都属于需求清晰,规则明确。Coder几乎可以稳定满分,仅因为偶尔考虑少边界场景而Fail掉几个用例。
不足:
- 推理能力:题目本身包含隐藏信息需要推理的场景,Coder推理能力不足,无法理清完全问题,导致写出的代码只能应付一部分测试Case。如#12函数计算器,Coder完成度不高。
- 代码冗长:Coder的平均输出代码行多达200行,即便扣掉所有注释,也是在测的21个模型中第3高。其输出代码中存在一些“以勤补拙”的典型场景,如#9文本解析器,涉及对HTML进行特殊字符转译,Coder输出了30行代码来穷举各种字符,但如果提取公共字符,只需要3行来处理。#11拼图问题,Coder大量使用暴力穷举,不但导致代码冗长,其代码执行效率也不高。
- 突发性失忆:在所有语法错误导致编译不过的问题中,有些场景尤为可惜。在申明变量后仅过了几行,使用变量时因为幻觉,输出一个完全不同的变量名。
- 中英混合:在没有明确指定的情况下,Coder输出的代码注释中约有一半使用英文,一半用中文,并不稳定。也有小概率完全不写注释。但Coder平均注释率13%并不低。
- 偶现在代码中夹杂不可见字符NBSP,导致编译失败。如果用户的IDE配置不显示不可见字符,遇到这种情况可能会出现神秘报错。
赛博史官曰:
在国内不方便使用Claude和OpenAI系列的场景,一款编程能力在线的国产模型成为刚需。但可惜的是无论之前的Qwen2.5、Qwen3以及字节家的历代模型,都很难平替Claude。新的Coder模型以一己之力改变了现状,其足够高的可用性和足够低的成本,可以在大部分场景成为编程首选。
至于超越Claude,恐怕不是这一代模型能实现的,这依然需要大模型领域诸君栉风沐雨,协力并进。阿里通义团队在大模型编程应用上经年投入也终将获得回报。
目前所有评测文章在公众号:大模型观测员 同步更新。