雅意2.0采用以Transformer为基础的解码器架构，通过千卡集群分布式训练，并使用ZeRO Stage 3优化训练效率。

雅意2.0从预训练阶段和指令微调阶段把控安全性，在预训练阶段通过基于触发词的过滤模型进行初筛，然后使用基于量子启发式语言的分类模型再次过滤；在指令微调阶段，增加了安全性数据，包含正面引导和拒绝回答两种类型。

雅意2.0在多语种场景下优于国内同参数级别的开源大模型，支持128K长文推理，在OpenCompass榜单200亿-400亿参数模型中，MMLU、AGIEval、CMMLU、GSM8K、HumanEval、MBPP等多项评测榜单排名第一。