據(jù)昆侖萬維消息，6月3日，昆侖萬維宣布開源2千億稀疏大模型Skywork-MoE，性能強勁，同時推理成本更低。Skywork-MoE基于之前昆侖萬維開源的Skywork-13B模型中間checkpoint擴展而來，是首個完整將MoE Upcycling技術(shù)應用并落地的開源千億MoE大模型，也是首個支持用單臺4090服務器推理的開源千億MoE大模型。（泰伯網(wǎng)綜合）