OPPO AndesGPT是什么？
11 月 16 日，在2023 OPPO開發者大會上，OPPO 正式推出了自主訓練的大模型 AndesGPT。AndesGPT有三大類規格：AndesGPT-Tiny、AndesGPT-Turbo和AndesGPT-Titan，可涵蓋十億至千億以上多種不同參數規模的模型規格，根據不同場景智能調度。
據介紹，AndesGPT 擁有對話增強、個性專屬和端云協同三大技術特征，對于大模型帶來的變革，OPPO 認為體現在四個方面：知識、 記憶、工具和創作。
- 在知識能力方面，AndesGPT 融合了知識圖譜及通用搜索能力，為用戶提供更專業的問答。通過知識增強技術，將外部知識與模型融合生成結果，降低幻覺。
- 在記憶能力方面，AndesGPT 實現長期記憶機制，以支持無限長度的上下文和有狀態服務。而長期記憶帶來首字推理延遲這個技術挑戰。為了解決該難題，OPPO 研發了一種注意力算 法命名為 SwappedAttention。SwappedAttention 能夠在多輪長上下文對話中，有效降低每個 query 的首字推理時長。其核心技術原理是，通過外部存儲和 KV 壓縮的方式實現會話級 KV 緩存。結合 PagedAttention 算法一起使用，能夠帶來 50%的首字延遲降低，以及 30%的推理吞吐提升。
- 工具使用也是 AndesGPT 一項核心能力，更好的理解設備控制與服務 API，端到端生成可執行指令。 目前 AndesGPT 已支持使用系統設置、一方應用、三方服務、代碼解釋器等各類工具。
- 在創作方面，AndesGPT 已全面支持文生圖與圖生圖場景。
AndesGPT模型在SuperCLUE測評基準的排行榜上表現出色，特別是在“知識與百科”能力測試中，得分高達98.33，僅次于GPT4，排名國內第一。
OPPO AndesGPT可以做什么？
OPPO AndesGPT的主要功能是提升對話能力，尤其是在與智能助理核心應用場景的結合上。它通過引入高質量的知識圖譜和問答數據，以及對預訓練和指令精調技術的優化，顯著提高了模型在知識和百科方面的覆蓋面和準確性。AndesGPT將被用于加強OPPO智能助手小布的AI能力，并逐步應用于更多OPPO核心產品中。
OPPO AndesGPT適用人群
OPPO AndesGPT主要適用于使用OPPO智能設備的用戶。這包括那些需要高效、準確的語音助手服務的用戶，特別是那些依賴智能手機進行日常任務和信息查詢的人。
隨著技術的進一步整合和發展，AndesGPT可能會擴展到更廣泛的用戶群體，包括企業用戶和開發者，他們可以利用這種高級AI技術來提升產品和服務的智能化水平。
?版權聲明：如無特殊說明，本站所有內容均為AIHub.cn原創發布和所有。任何個人或組織，在未征得本站同意時，禁止復制、盜用、采集、發布本站內容到任何網站、書籍等各類媒體平臺。否則，我站將依法保留追究相關法律責任的權利。
