新京报客户端

好新闻 无止境

立即打开
中文通用大模型基准测试发布,讯飞星火认知大模型国内第一
新京报 编辑 王进雨
2023-05-10 11:48

5月9日,中文通用大模型综合性评测基准SuperCLUE正式发布。该基准测试主要关注以下问题:中文大模型在不同任务上的表现如何?与国际代表性模型相比,中文大模型的表现达到了何种程度?中文大模型与人类表现相比如何?


该模型可通过多个层面,考验市面上主流的中文GPT大模型的能力:


基础能力:包括了常见的有代表性的模型能力,如语义理解、对话、逻辑推理、角色模拟、代码、生成与创作等10项能力。



专业能力:包括了中学、大学与专业考试,涵盖了从数学、物理、地理到社会科学等50多项能力。


中文特性能力:针对有中文特点的任务,包括了中文成语、诗歌、文学、字形等10多项能力。


该机构利用SuperCLUE测试基准,对市面上主流的支持中文的通用大模型进行了评测与排名。从排名中我们可以看出,GPT-4一骑绝尘,已经非常接近人类的能力。国产大模型中科大讯飞研发的星火认知大模型总排名第三,国内排名第一。


以下为该机构公布的各个子项目的具体得分。排行榜会定期更新,并于以下网站进行公示。www.CLUEbenchmarks.com/superclue.html


总榜单



基础能力榜单



中文特性榜单



校对 刘军

相关推荐
奇瑞×科大讯飞,传来新消息!
新京号
两会民企谈|刘庆峰:拥抱AI时代,但不要过度焦虑
科技
​实探|一夜爆火的Manus,背后团队是什么来头
科技
马斯克向左 梁文锋向右
科技
在石景山揭牌!中央广播电视总台人工智能大楼启用
新京号
2025中国科幻大会:智启新元·跨界协同——前沿技术与科幻跨界融合论坛成功举行
新京号
国内首个基于全国产算力平台训练的深度推理模型讯飞星火X1发布
科技
“花小钱办大事”冲击硅谷AI圈 记者实测DeepSeek
科技
大模型传媒能力如何?新京报AI研究院报告:存幻觉,写作待提高
科技
看2025|智谱张鹏:希望努力推动人机交互范式实现新转变
科技

新京报报料邮箱:67106710@bjnews.com.cn