面壁智能发布端侧大模型MiniCPM 4.0

Wait 5 sec.

6月6日晚,面壁智能发布端侧大模型MiniCPM 4.0。该公司称新模型通过自研CPM.cu推理框架,在极限场景下实现最高220倍提速,常规5倍提速,支持在vLLM、SGLang、LlamaFactory等框架部署。(新浪财经)原文链接