新京报客户端

好新闻 无止境

立即打开
中文通用大模型基准测试发布,讯飞星火认知大模型国内第一
新京报 编辑 王进雨
2023-05-10 11:48

5月9日,中文通用大模型综合性评测基准SuperCLUE正式发布。该基准测试主要关注以下问题:中文大模型在不同任务上的表现如何?与国际代表性模型相比,中文大模型的表现达到了何种程度?中文大模型与人类表现相比如何?


该模型可通过多个层面,考验市面上主流的中文GPT大模型的能力:


基础能力:包括了常见的有代表性的模型能力,如语义理解、对话、逻辑推理、角色模拟、代码、生成与创作等10项能力。



专业能力:包括了中学、大学与专业考试,涵盖了从数学、物理、地理到社会科学等50多项能力。


中文特性能力:针对有中文特点的任务,包括了中文成语、诗歌、文学、字形等10多项能力。


该机构利用SuperCLUE测试基准,对市面上主流的支持中文的通用大模型进行了评测与排名。从排名中我们可以看出,GPT-4一骑绝尘,已经非常接近人类的能力。国产大模型中科大讯飞研发的星火认知大模型总排名第三,国内排名第一。


以下为该机构公布的各个子项目的具体得分。排行榜会定期更新,并于以下网站进行公示。www.CLUEbenchmarks.com/superclue.html


总榜单



基础能力榜单



中文特性榜单



校对 刘军

相关推荐
“北京造”大模型GLM-4.5开源 综合性能世界领先
科技
智谱发布首个原生融合智能体大模型,综合性能世界领先!
新京号
WAIC观察:大模型在落地,机器人在风口
科技
AI大模型、具身智能机器人…黄奇帆李萌王鹤等论道“智能”未来
科技
“全体系·新征程”2025鲸鱼机器人新品发布会成功举办!
企业资讯
AI填志愿靠谱吗?这10款热门产品存在“硬伤”
新京号
实测近十款AI高考志愿填报产品:存在定位偏差、信息失实等硬伤
教育
深度推理模型写高考英语作文谁更强?记者实测,名校英语教师点评
科技
火山引擎放大招:发布豆包1.5深度思考模型,还有Agent隐藏彩蛋
企业资讯
奇瑞×科大讯飞,传来新消息!
新京号

新京报报料邮箱:67106710@bjnews.com.cn