AIHub最新消息，2024年1月2日，同花順在微信公眾號宣布推出了問財HithinkGPT大模型。
此款大模型采用transformer的decoder-only架構，提供7B、13B、30B、70B和130B五種版本選擇，最大允許32k文本輸入，支持API接口調用、網頁嵌入、共建、私有化部署等能力，并為用戶提供一站式標注和評測服務。
現在，問財HithinkGPT大模型的內測申請已經啟動，掃描下方二維碼即可申請內測。
HithinkGPT測評效果
HithinkGPT在多個場景中有出色的表現，在金融領域中處于絕對領先的位置：
通用領域：HithinkGPT大模型在C-Eval、GSM8K、MMLU、MATH等10多個主流Benchmark測評集上的表現全面超越了主流開源模型Llama-2。
金融領域：同花順自建了HithinkFinEval數據集，涵蓋了證券從業考試、基金從業考試、會計師資格考試、CPA、CFA等17個金融行業考試。在這些考試中，問財HithinkGPT-70B大模型以平均75.9分的優異成績通過考試，并且HithinkGPT在所有考試科目中都比開源模型更加優秀。
據官方介紹，HithinkGPT針對大模型訓練與推理做到了極致的優化與技術探索，包括數據覆蓋、模型訓練、高效推理以及智能安全：
1、金融數據的全面覆蓋：同花順利用自身過去十幾年的數據積累以及市場上公開的金融數據，預訓練金融語料達到萬億級tokens。此外，我們擁有一套自動化的流程，用于數據獲取、清洗以及數據質量的驗證，每月可新增數千億tokens優質預訓練數據以及數十萬條優質微調數據，確保數據的實時性和準確性。
2、模型訓練的創新優化：我們構建了科學高效的大模型訓練體系，包括：數據配比實驗方案、scaling law實驗體系、模型架構優化、分布式訓練框架優化、硬件加速技術等。使得我們的大模型訓練效率提升了數倍，能以更低的訓練成本高效地完成HithinkGPT大模型家族（7B、13B、30B、70B和130B）的訓練。
3、AI算力的極致使用：同花順構建了千卡異構集群，為模型訓練提供支持。推理上，我們通過應用無損自適應選層剪枝、通信及底層算子優化，以及實現多數據中心負載均衡，使模型推理吞吐速度提高八倍以上。此外，我們自主研發了大模型量化算法，量化后的模型精度損失小于1%，同時部署顯存需求減半，推理的吞吐量進一步提高了兩倍以上。
4、智能安全的堅決守護：我們使用輕量高效的RLHF方案，將大模型對安全的認知與人類拉齊。同時，我們獨創補丁式大模型熱修復技術，快速應對并封堵安全漏洞，不斷提高模型的安全性。我們旨在構建有用、無害、三觀正確的智能伙伴，確保每一位用戶都能安心使用。
全面升級-全能金融顧問：問財
原來就廣受投資者喜愛的投顧對話機器人——同花順問財，現基于HithinkGPT成功升級，是國內金融領域首個應用大模型技術的智能投顧產品。
大模型版本的問財涵蓋A股、基金、ETF、港股、美股、債券、宏觀等15個業務矩陣，包括七大投資環節的查詢、分析、對比、解讀、原因、預測、建議、回測等在內的50余類技能，為用戶提供全面精準、穩定可控的投資決策支持。
大模型版本的問財與傳統模式的問財相比，具有以下五大特色優勢：全面的實時金融數據、強大的語義理解、專業的投顧建議、生動的表達形式、可控的內容生成，致力于成為用戶的全能金融顧問：
1、更全面的實時數據：問財大模型可以實時獲取全球數百萬個實時更新的金融數據指標以及每天產生的數十萬條金融相關資訊。這些數據涵蓋了股票、債券、期貨、外匯、商品價格、宏觀經濟指標、行業數據等各個方面，確保用戶始終能夠獲取到最新、最全的信息。
2、更強大的語義理解?：問財在十多年前就已經涉足金融人機交互領域，積累了數十億條完整、專業、高質量的結構化金融數據，其對語義理解以及用戶個性化理解能力的提升具有先天優勢；同時每天持續產生數千萬條金融數據，結合大模型自我進化能力，使得大模型能夠更準確的理解用戶意圖和需求。
3、更專業的投顧建議：圍繞用戶的投資目標，基于“用戶的五大KYC標簽體系、投資分析的六大維度、以及投資過程的七大步驟”，模擬了真人投顧服務邏輯，給用戶最科學合理的投資建議，讓投資變得更簡單。
4、更生動的表達形式：同花順問財大模型已經打破了行業常用的文本格式限制，截至目前，我們已經擁有動態折線圖、動態雙柱圖等14種數據可視化組件以及圖片生成和視頻生成兩種富媒體可視化工具，并支持用戶自定義，覆蓋了投顧建議、宏觀、資訊、投教等15大核心業務領域，利用多模態技術讓信息傳遞更高效更人性。
5、更可控的內容生成：安全性上通過內置的智能風險識別系統，能夠實時監測和召回5大類31種潛在風險的提問意圖，通過系統對抗性訓練和魯棒性評估，風險召回率超過99.5%。
如果你比較感興趣，可以掃描下方二維碼即可申請內測。
