ERNIE 5.5 Flash Base 解读:280B 只激活 14B,百度把预训练底稿放出来了
ERNIE 5.5 Flash Base 开源权重:280B 稀疏 MoE 每 token 仅激活 14B,MMLU-Pro 78.4 领先同级 9.2 分。没有后训练,拿来即用会失望,适合领域微调团队。
共 1 篇文章
ERNIE 5.5 Flash Base 开源权重:280B 稀疏 MoE 每 token 仅激活 14B,MMLU-Pro 78.4 领先同级 9.2 分。没有后训练,拿来即用会失望,适合领域微调团队。