蚂蚁集团推出新款MoE大语言模型

来源:财经网作者:小白2025-03-24 15:50
导语

近日,蚂蚁集团Ling团队发表了一篇技术成果论文。论文显示,蚂蚁集团推出了两款不同规模的MoE大语言模型——百灵轻量版(Ling-Lite)与百灵增强版(Ling-Plus),前者参数规模为168亿(激活参数27.5亿),Plus基座模型参数规模高达2900亿(激活参数288亿),两者性能均达到行业领先水平。

屏幕快照 2025-03-24 下午3.50.07

除了自研性能领先的大模型以外,该技术论文最大的突破在于提出了一系列创新方法,以提升资源受限环境下AI开发的效率与可及性。实验表明,其3000亿参数的MoE(混合专家)大模型可在使用国产GPU的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及MoE模型相当。(财联社)

编辑:安安

相关新闻

新闻爆料

010-85657230
最新推荐
外交部:无人驾驶新能源车等都让人感受到新质生产力的魅力

中国企业将先进制造、清洁能源、智慧网络等...

国内首台自主研发汽车座舱热舒适性测评系统发布

将推动汽车行业热舒适性测试评价标准体系的...

董明珠回应格力造车进展:不做家用车

我们不做小轿车,但环卫车、重卡、公交车等...

粤港澳大湾区内地9市“新三样”前两个月出口增长30.7%

出口方面,锂离子蓄电池、光伏产品、电动汽...

  • 热门排行
  • 大家喜欢