6月6日晚,面壁智能發(fā)布端側(cè)大模型MiniCPM 4.0。該公司稱新模型通過(guò)自研CPM.cu推理框架,在極限場(chǎng)景下實(shí)現(xiàn)最高220倍提速,常規(guī)5倍提速,支持在vLLM、SGLang、LlamaFactory等框架部署。(界面)
6月6日晚,面壁智能發(fā)布端側(cè)大模型MiniCPM 4.0。該公司稱新模型通過(guò)自研CPM.cu推理框架,在極限場(chǎng)景下實(shí)現(xiàn)最高220倍提速,常規(guī)5倍提速,支持在vLLM、SGLang、LlamaFactory等框架部署。(界面)