9 月 6 日消息,百川智能今日召開主題為“百川匯海,開源共贏”的大模型發(fā)布會,正式開源微調(diào)后的 Baichuan2-7B、Baichuan2-13B、Baichuan2-13B-Chat 與其 4bit 量化版本,并且均為免費可商用。

百川智能此次還開源了模型訓(xùn)練的 Check Point,并宣布將發(fā)布 Baichuan 2 技術(shù)報告,詳細介紹 Baichuan 2 的訓(xùn)練細節(jié),IT之家附 Baichuan 2 下載地址:https://github.com/baichuan-inc/Baichuan2
據(jù)百川智能官方介紹,Baichuan2-7B-Base 和 Baichuan2-13B-Base,均基于 2.6 萬億高質(zhì)量多語言數(shù)據(jù)進行訓(xùn)練,兩個模型在數(shù)學(xué)、代碼、安全、邏輯推理、語義理解等能力有顯著提升。
其中 Baichuan2-13B-Base 相比上一代 13B 模型,數(shù)學(xué)能力提升 49%,代碼能力提升 46%,安全能力提升 37%,邏輯推理能力提升 25%,語義理解能力提升 15%。

在 MMLU、CMMLU、GSM8K 等基準(zhǔn)測試中,百川智能的兩個模型都比 LLaMA 2 的分數(shù)要高一些,且在“中文通用”部分優(yōu)勢較大。


Baichuan2-7B 和 Baichuan2-13B 不僅對學(xué)術(shù)研究完全開放,開發(fā)者也僅需郵件申請獲得官方商用許可后,即可以免費商用。騰訊云、阿里云、火山方舟、華為、聯(lián)發(fā)科等企業(yè)均參加了本次發(fā)布會并與百川智能達成了合作。
