OpenAI 當(dāng)?shù)貢r(shí)間昨日以 Apache 2.0 許可證的形式推出了兩款 gpt-oss 系列開放推理模型，其中參數(shù)規(guī)模較小的 gpt-oss-20b 模型可在僅配備 16GB 內(nèi)存的邊緣設(shè)備上運(yùn)行、參數(shù)更多的 gpt-oss-120b 則能在單個(gè) 80GB GPU 上高效運(yùn)行。
AMD 與高通均宣布旗下硬件支持 gpt-oss 系列開放模型，具體是 AMD 銳龍 AI Max+ 395 處理器支持 gpt-oss-120b、AMD Radeon RX 9070 16GB 顯卡支持 gpt-oss-20b、高通旗艦驍龍平臺(tái)支持 gpt-oss-20b。
AMD 宣稱銳龍 AI Max+ 395 是全球首款能運(yùn)行 gpt-oss-120b 模型的消費(fèi)級(jí) AI PC 處理器：采用 GGML 框架轉(zhuǎn)換的 MXFP4 格式 gpt-oss-120b 大約需要 61GB 顯存，而 "Strix Halo" 平臺(tái)在 128GB 統(tǒng)一內(nèi)存下支持將 96GB 分配給 GPU，輕松滿足這一需求。
銳龍 AI Max+ 395 在 gpt-oss-120b 上有 30 Token / s 的輸出速率，同時(shí)支持該模型的 MCP 模型上下文協(xié)議實(shí)現(xiàn)。
而 Radeon RX 9070 16GB 顯卡則能在 gpt-oss-20b 上實(shí)現(xiàn)出色的首 Token 輸出時(shí)間 (TTFT) 和每秒 Token 輸出數(shù)量表現(xiàn)。
高通表示根據(jù)早期測試 gpt-oss-20b 可在端側(cè)實(shí)現(xiàn)出色思維鏈推理表現(xiàn)，開發(fā)者可通過 Hugging Face 和 Ollama 等熱門平臺(tái)在搭載驍龍芯片的設(shè)備上訪問 gpt-oss-20b 模型并充分發(fā)揮其功能。
