GPT-oss 是什么？

GPT-OSS 是 OpenAI 發布的開源權重大語言模型系列，包含 20B 與 120B 兩個版本，支持原生 128K tokens 長上下文、MoE 架構高效推理、微調與智能體功能，適合本地部署與企業級生成式應用，采用 Apache 2.0 許可協議。

GPT-oss 的模型亮點

• 支持 Apache 2.0 許可協議：可自由使用、修改和商用，無需擔心版權限制或專利風險，適合用于實驗、定制與商業部署。
• 可調節的推理強度：可根據不同應用場景或延遲需求，靈活設置推理策略（低、中、高），平衡性能與速度。
• 完整的思維鏈支持：模型支持輸出完整的推理過程，便于調試與結果解釋（僅供開發使用，不建議面向終端用戶展示）。
• 支持微調：可通過參數微調，充分適配特定業務場景，實現模型個性化優化。
• 原生智能體能力：模型具備函數調用、網頁瀏覽、Python代碼執行與結構化輸出等原生智能體能力，便于集成進復雜工作流。
• 原生 MXFP4 量化優化：模型在 MoE 層采用 MXFP4 精度訓練，使得 GPT-OSS-120B 可在單張 H100 GPU 上運行，20B 版本可在 16GB 內存內運行，顯著降低硬件門檻。

GPT-oss 的基準測試

GPT-OSS-120B 模型在核心推理基準測試中與 OpenAI o4-mini 模型幾乎持平，同時能在單個 80GB GPU 上高效運行。GPT-OSS-20B 模型在常見基準測試中與 OpenAI o3?mini 模型取得類似結果，且可在僅配備 16GB 內存的邊緣設備上運行，使其成為設備端應用、本地推理或無需昂貴基礎設施的快速迭代的理想選擇。這兩個模型在工具使用、少樣本函數調用、CoT推理（如在 Tau-Bench 智能體評估套件中的結果所示）以及 HealthBench 測試中表現強勁（甚至超越了 OpenAI o1 和 GPT?4o 等專有模型）。

GPT-oss 的適用人群

• 開發者 / 工程師：可本地部署模型用于代碼生成、接口問答、知識提取等
• AI創業者 / 產品團隊：適合用于構建無需聯網的智能問答或客服系統
• 科研機構 / 教育用戶：用于AI模型教學、醫療問答研究等有安全審查需求的項目
• 內容創作者 / AI愛好者：在低配設備上即可試用20B模型，體驗本地AI推理

如何使用 GPT-oss？

Gpt-oss-120b 和 gpt-oss-20b 的權重均可在 Hugging Face 上免費下載。

• GPT-oss官網介紹：https://openai.com/index/introducing-gpt-oss
• 在線體驗：https://gpt-oss.com/
• HuggingFace 模型：https://huggingface.co/openai/gpt-oss-120b
• 模型卡與評估報告 PDF：https://cdn.openai.com/pdf/gpt-oss_model_card.pdf
• OpenAI 模型下載文檔說明：https://help.openai.com/en/articles/11870455

?版權聲明：如無特殊說明，本站所有內容均為AIHub.cn原創發布和所有。任何個人或組織，在未征得本站同意時，禁止復制、盜用、采集、發布本站內容到任何網站、書籍等各類媒體平臺。否則，我站將依法保留追究相關法律責任的權利。