
CPM-Bee是什么?
CPM-Bee 是一個?完全開源、允許商用?的百億參數中英文基座模型。它采用 Transformer 自回歸架構(auto-regressive),使用萬億級高質量語料進行預訓練,擁有強大的基礎能力。
CPM-Bee 的特點可以總結如下:
- 開源可商用:OpenBMB 始終秉承“讓大模型飛入千家萬戶”的開源精神,CPM-Bee 基座模型將完全開源并且可商用,以推動大模型領域的發展。如需將模型用于商業用途,只需企業實名郵件申請并獲得官方授權證書,即可商用使用。
- 中英雙語性能優異:CPM-Bee 基座模型在預訓練語料上進行了嚴格的篩選和配比,同時在中英雙語上具有亮眼表現,具體可參見評測任務和結果。
- 超大規模高質量語料:CPM-Bee基座模型在萬億級語料上進行訓練,是開源社區內經過語料最多的模型之一。同時,我們對預訓練語料進行了嚴格的篩選、清洗和后處理以確保質量。
- OpenBMB大模型系統生態支持:OpenBMB 大模型系統在高性能預訓練、適配、壓縮、部署、工具開發了一系列工具,CPM-Bee 基座模型將配套所有的工具腳本,高效支持開發者進行進階使用。?
- 強大的對話和工具使用能力:結合OpenBMB 在指令微調和工具學習的探索,我們在 CPM-Bee 基座模型的基礎上進行微調,訓練出了具有強大對話和工具使用能力的實例模型,現已開放定向邀請內測,未來會逐步向公眾開放。
???Github地址???https://github.com/OpenBMB/CPM-Bee?
??Hugging Face地址???https://huggingface.co/openbmb/cpm-bee-10b
CPM-Bee可以做什么?
CPM-Bee 一網打盡多種能力,可以準確地進行語義理解,高效完成各類基礎任務,包括:文字填空、文本生成、翻譯、問答、評分預測、文本選擇題?等等。
?版權聲明:如無特殊說明,本站所有內容均為AIHub.cn原創發布和所有。任何個人或組織,在未征得本站同意時,禁止復制、盜用、采集、發布本站內容到任何網站、書籍等各類媒體平臺。否則,我站將依法保留追究相關法律責任的權利。
