欧美成人三级视频网站,国产一区国产二区国产三区,青青久久av北条麻妃黑人,亚州综合一区

訊飛智文
當前位置:首頁>AI資訊>通義千問720億參數模型開源,適配企業級、科研級高性能應用

通義千問720億參數模型開源,適配企業級、科研級高性能應用

今天,阿里云舉辦通義千問發布會,開源通義千問720億參數模型Qwen-72B。Qwen-72B在10個權威基準測評創下開源模型最優成績,成為業界最強開源大模型,性能超越開源標桿Llama 2-70B和大部分商用閉源模型。未來,企業級、科研級的高性能應用,也有了開源大模型這一選項。

通義千問還開源了18億參數模型Qwen-1.8B和音頻大模型Qwen-Audio。至此,通義千問共開源18億、70億、140億、720億參數的4款大語言模型,以及視覺理解、音頻理解兩款多模態大模型,實現“全尺寸、全模態”開源。

通義千問720億參數模型開源,適配企業級、科研級高性能應用

01
業界最強開源模型,填補中國LLM開源領域空白

Qwen-72B基于3T tokens高質量數據訓練,延續通義千問預訓練模型一貫以來的強勢表現,在10個權威基準測評中奪得開源模型最優成績,在部分測評中超越閉源的GPT-3.5和GPT-4。

英語任務上,Qwen-72B在MMLU基準測試取得開源模型最高分;中文任務上,Qwen-72B霸榜C-Eval、CMMLU、GaokaoBench等基準,得分超越GPT-4;數學推理方面,Qwen-72B在GSM8K、MATH測評中斷層式領先其他開源模型;代碼理解方面,Qwen-72B在HumanEval、MBPP等測評中的表現大幅提升,代碼能力有了質的飛躍。

Qwen-72B可以處理最多32k的長文本輸入,在長文本理解測試集LEval上取得了超越ChatGPT-3.5-16k的效果。研發團隊優化了Qwen-72B的指令遵循、工具使用等技能,使之能更好地被下游應用集成。比如,Qwen-72B搭載了強大的系統指令(System Prompt)能力,用戶只用一句提示詞就可定制AI助手,要求大模型扮演某個角色或者執行特定的回復任務。

Qwen-72B將以高性能、高可控、高性價比的特點,為業界提供不亞于商業閉源大模型的選擇。基于Qwen-72B,大中型企業可開發商業應用,高校、科研院所可開展AI for Science等科研工作。

02
從1.8B到72B,通義千問率先實現全尺寸開源

Qwen-72B“向上摸高”,抬升了開源大模型的尺寸和性能天花板;今天開源的另一開源模型Qwen-1.8B則“向下探底”,成為尺寸最小的中國開源大模型,推理2K長度文本內容僅需3G顯存,可在消費級終端部署。

從18億、70億、140億到720億參數規模,通義千問成為業界首個“全尺寸開源”的大模型。用戶可在魔搭社區直接體驗Qwen系列模型效果,也可通過阿里云靈積平臺調用模型API,或基于阿里云百煉平臺定制大模型應用。阿里云人工智能平臺PAI針對通義千問全系列模型進行深度適配,推出了輕量級微調、全參數微調、分布式訓練、離線推理驗證、在線服務部署等服務。

通義千問720億參數模型開源,適配企業級、科研級高性能應用

阿里云是國內最早開源自研大模型的科技企業,8月以來開源了Qwen-7B、Qwen-14B和視覺理解模型Qwen-VL。幾款模型先后沖上HuggingFace、Github大模型榜單,得到中小企業和個人開發者的青睞,累計下載量超過150萬,催生出150多款新模型、新應用。發布會現場,多位開發者伙伴現身說法,分享了他們用Qwen開發專屬模型和特定應用的實踐。

阿里云CTO周靖人表示,開源生態對促進中國大模型的技術進步與應用落地至關重要,通義千問將持續投入開源,希望成為“AI時代最開放的大模型”,與伙伴們共同促進大模型生態建設。

03
通義千問基座模型持續進化,多模態探索業界領先

通義千問團隊一直在探索多模態大模型技術。今天,阿里云首次開源了音頻理解大模型Qwen-Audio。

Qwen-Audio能夠感知和理解人聲、自然聲、動物聲、音樂聲等各類語音信號。用戶可以輸入一段音頻,要求模型給出對音頻的理解,甚至基于音頻進行文學創作、邏輯推理、故事續寫等等。音頻理解能夠賦予大模型接近人類的聽覺能力。

通義大模型能“聽”也能“看”。通義千問8月開源出視覺理解大模型Qwen-VL,迅速成為國際開源社區最佳實踐之一。本次發布會又宣布了Qwen-VL的重大更新,大幅提升通用OCR、視覺推理、中文文本理解基礎能力,還能處理各種分辨率和規格的圖像,甚至能“看圖做題”。不論從權威測評成績還是真人體驗的效果看,Qwen-VL的中文文本理解能力都大幅超越了GPT-4V。

通義千問閉源模型也在持續進化,一個月前發布的通義千問2.0版閉源模型,最近已進階至2.1版,上下文窗口長度擴展到32k,代碼理解生成能力、數學推理能力、中英文百科知識、幻覺誘導抵抗能力分別提升30%、10%、近5%和14%。用戶可以在通義千問APP免費體驗最新版本的閉源模型。

?版權聲明:如無特殊說明,本站所有內容均為AIHub.cn原創發布和所有。任何個人或組織,在未征得本站同意時,禁止復制、盜用、采集、發布本站內容到任何網站、書籍等各類媒體平臺。否則,我站將依法保留追究相關法律責任的權利。 Trae
0 條回復 A文章作者 M管理員
    暫無評論內容
error:
主站蜘蛛池模板: 汾阳市| 罗平县| 安远县| 伊通| 赤峰市| 靖安县| 阿拉善右旗| 肃南| 邢台县| 靖西县| 朝阳市| 壶关县| 祥云县| 文登市| 贡觉县| 宝应县| 秭归县| 辽宁省| 泰兴市| 会泽县| 灵丘县| 宁波市| 仪征市| 资溪县| 九江市| 会理县| 福泉市| 泽库县| 乃东县| 余庆县| 临湘市| 宣汉县| 西平县| 镇江市| 安泽县| 雷山县| 武川县| 曲松县| 通榆县| 金寨县| 安多县|