新京报客户端

好新闻 无止境

立即打开
将开源贯彻到底 阿里云发布开源模型Qwen2
新京报 记者 罗亦丹 编辑 王琳琳
2024-06-07 10:01

新京报贝壳财经讯(记者罗亦丹)6月7日,阿里云更新技术博客:重磅发布开源模型Qwen2-72B,所有人均可在魔搭社区和Hugging Face免费下载通义千问最新开源模型。


一直以来,来自Meta的开源大模型Llama系列都是开源大模型当之无愧的顶流,不过有个人开发者对贝壳财经记者表示,Qwen系列的开源模型在国外技术社区的讨论度一直居高不下。最近一个月内,通义千问Qwen系列模型总下载量翻了一倍,已突破1600万次,全球开源社区已经出现了超过1500款基于Qwen二次开发的模型。


而相比2月推出的通义千问Qwen1.5,Qwen2实现了整体性能的代际飞跃。刚刚开源的Qwen2-72B,整体性能相比Qwen1.5-110B又取得了大幅提升。阿里云方面表示,通义千问Qwen2系列模型大幅提升了代码、数学、推理、指令遵循、多语言理解等能力。


通义千问团队在技术博客中披露,Qwen2系列包含5个尺寸的预训练和指令微调模型,Qwen2-0.5B、Qwen2-1.5B、Qwen2-7B、Qwen2-57B-A14B和Qwen2-72B,其中Qwen2-57B-A14B为混合专家模型(MoE)。Qwen2所有尺寸模型都使用了GQA(分组查询注意力)机制,以便让用户体验到GQA带来的推理加速和显存占用降低的优势。


在中英文之外,模型训练数据中增加了27种语言相关的高质量数据,提升了模型的多语言能力。Qwen2还增大了上下文长度支持,Qwen2-72B-Instruct能够处理128k上下文长度内的信息抽取任务。


阿里云CTO周靖人表示,“坚持开源开放是阿里云的重要策略,我们希望打造一朵AI时代最开放的云,让算力更普惠、让AI更普及。”


编辑 王琳琳

校对 赵琳


来阅读我的更多文章吧
罗亦丹
新京报记者
记者主页
相关推荐
“三区两翼”打造世界级AI集聚地 ——百年京张AI创新带系列报道之“全球征集”
新京号
中国企业大模型日均调用达37万亿tokens ,阿里云千问排名第一
新京号
财经观察:中国靠什么成为“世界Token工厂”
新京号
火爆AI圈的Harness是什么?看国内“大厂”怎么说
科技
千问高光下的暗涌
新京号
千问技术负责人林俊旸离职,前一天还在“感谢马斯克点赞千问”
科技
汇聚全球“最强大脑”,中关村论坛年会举行AI开源前沿论坛
北京
众智FlagOS 2.0发布,中关村人工智能开源联盟正式成立
北京
千问负责人林俊旸发文卸任,曾是阿里最年轻的P10
新京号
Kimi杨植麟:开源模型逐渐成为新的标准
科技

新京报报料邮箱:82708677@bjnews.com.cn