OpenBMB
让大模型飞入千家万户
GitHub
启智
最新
中文多模态大模型VisCPM开放API接口!升级版本能力远超同类模型
今年6月底,OpenBMB开源了面壁智能、清华NLP实验室和知乎联合研发的SOTA 开源中文多模态大模型VisCPM。两个多月以来研发同学不断突破,VisCPM得到全新升级。 易用性升级:提供API调用,提供在线Demo,支持用户本地图形
2023年10月25 17:07
查看详情
全面超越AutoGPT,面壁智能联合清华 NLP实验室打造大模型“超级英雄”—— XAgent
近日,国内领先的人工智能大模型公司 面壁智能 又放大招,联合 清华大学 NLP 实验室 共同研发并推出 大模型 “超级英雄”——XAgent。
2023年10月25 16:48
查看详情
OpenBMB对齐技术取得新突破,高质量反馈数据助力开源模型
面壁智能(ModelBest)与清华 NLP 实验室持续探索大模型对齐(Alignment)技术。继 UltraLM-13B-v1.0 登顶斯坦福 AlpacaEval 开源模型榜单后,近日团队最新发布与 UltraRM 联合的 Ultra
2023年10月25 16:06
查看详情
BM 体系架构图
BM Data BM Data BM Train Open Prompt Delta Center Open Delta BM Train Open Prompt BM Inf BM Inf BM Inf BM Cook BM Cook
BMTrain
大模型训练“发动机”。BMTrain进行高效的大模型预训练与微调。与DeepSpeed等框架相比,BMTrain训练模型成本可节省90%
详情
对比流行框架,BMTrain表现惊人
BMCook
大模型“瘦身”工具库。BMCook进行大模型高效压缩,提高运行效率。通过量化、剪枝、蒸馏、专家化等算法组合,可保持原模型90%+效果,模型推理加速10倍
详情
任意组合压缩方法尽可能地加速模型
BMInf
千元级显卡玩转大模型推理。BMInf实现大模型低成本高效推理计算,使用单块千元级显卡(GTX 1060)即可进行百亿参数大模型推理。
详情
10B模型解码速度 (Tokens/s)
BMInf
PyTorch
OpenPrompt
大模型提示学习利器。OpenPrompt提供统一接口的提示学习模板语言, 它的组合性和模块化可以让你轻松部署提示学习方法以驱动大模型。
详情
工具结构
OpenDelta
“小”参数撬动“大”模型。OpenDelta进行参数高效的大模型微调,仅更新极少参数(小于5%)即可达到全参数微调的效果。
详情
OpenDelta可以和OpenPrompt协作运行
ModelCenter
大模型仓库。ModelCenter基于BMTrain工具实现了一系列预训练语言模型,支持高效、低成本、可扩展性强的模型微调及分布式训练
详情
支持模型
代表用户