智谱GLM-4.6发布,寒武纪、摩尔线程已完成适配

9月30日,国内大模型独角兽企业智谱正式发布并开源新一代大模型GLM-4.6,在AgenticCoding等核心能力上实现较大提升。作为开源模型,智谱官方宣布,GLM-4.6已在寒武纪领先的国产AI芯片上实现FP8+Int4混合量化推理部署,这也是首次在国产芯片上投产的FP8+Int4模型-芯片一体化解决方案。与此同时,摩尔线程基于vLLM推理框架完成对GLM-4.6的适配,新一代GPU可在原生FP8精度下稳定运行模型。(澎湃)

上一篇:

下一篇:

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注