技術

祖克柏推出Muse Ember,Meta最小AI模型的每token價格與Haiku相同

馬克·祖克伯格表示,Meta 的新小型模型在每美元的智能表現上優於競爭對手。此主張在帳單上成立,而非在價格表上,且節省成本源於它所撰寫的 token 數量。
Adrian Kessler
在 Google 中新增我們

馬克·祖克柏(Mark Zuckerberg)在 X 上用一句話介紹 Meta 最新的 AI 模型:「今天推出 Muse Ember——我們最小的模型,在同級模型中每一美元能帶來更高智慧。」不少發布報導將這番話解讀為降價,認為 Meta 正以低價搶攻 Anthropic 和 OpenAI 推出、供 AI 代理開發者使用的小型平價模型市場。

但至少從價目表來看,這並不是降價。Muse Ember 每個輸入與輸出的 Token,收費都和兩個具名對手完全相同。Meta 宣稱能省下的成本確實存在,只是省在別的地方:模型在給出答案前會生成多少內容。這項說法比打折更值得探究,但買家在收到帳單前也更難核實。

Meta 推出了什麼

Muse Ember 是 Meta Muse 系列的第四款模型,前面已有 Spark、Glimmer 和 Wonder,也是其中最小的一款。Meta Superintelligence Labs 開發它,負責代理程式中的重複性工作;用祖克柏的話來說,包括「程式編寫子任務、路由、資料擷取,以及長文件解析」。Meta 對分工的描述相當直白:「Muse Wonder 負責規劃,Muse Ember 負責處理大量工作。」領導 Meta Superintelligence Labs 的王亞歷山大(Alexandr Wang)表示,Ember 是首款以 Muse Wonder Full 訓練後推出的模型;Muse Wonder Full 是 Meta 最大的模型。

Meta 表示,Ember 能讀取文字、圖片、音訊和影片,支援一百萬 Token 的上下文視窗,單次回答最多可生成 512,000 個 Token。這是一款閉源模型,沒有可供下載的權重;它透過 Meta 託管的 Model API 提供,也能在 Meta 的程式編寫代理 Muse Code 中使用,Google Cloud 和 Oracle Cloud 也列為使用管道。

「每一美元」的效益從何而來

Meta 為 Ember 開出的價格是每百萬個輸入 Token 0.10 美元、每百萬個輸出 Token 0.50 美元。正如 MarkTechPost 和 Fello AI 所指出,Anthropic 的 Claude Haiku 5.5 與 OpenAI 的 GPT-6 Luna 基本費率也完全相同。Ember 在牌價上的唯一優勢,是快取輸入——也就是模型已經看過、可以重複使用的文字;這部分每百萬個 Token 收費 0.004 美元,兩個對手則都是 0.01 美元。

差距要到每項任務才會顯現。在獨立基準測試套件 Artificial Analysis Intelligence Index 上,Ember 得分 36,與設定為最高檔的 Haiku 5.5 相同;但每項任務的成本約為 0.14 美元,Haiku 則是 0.41 美元。Fello AI 對 Artificial Analysis 資料的解讀說明了原因:在整個指數測試中,Ember 產生約 1.15 億個輸出 Token,Haiku 則約為 2.98 億個,兩者的輸出費率相同。每個 Token 收費一樣,所需 Token 卻少得多。GPT-6 Luna 每項任務的成本與 Ember 相近,約為 0.15 美元,但得分只有 28。

這種機制之所以重要,是因為價目表上不會列出 Token 數量。開發者比較牌價時,看到的是三款價格相同的模型。差異只有在代理程式實際運作後才會浮現,而且會隨任務、執行架構和推理設定而變動。Meta 的比較採用最高推理強度;其開發者文件也將這項設定列為 Ember 的預設值。

價格翻三倍的情況

Meta 的開發者頁面還列出另一級定價,但發布宣傳並未提及。輸入 Token 超過 200,000 個後,Ember 每百萬個輸入 Token 收費 0.30 美元、每百萬個輸出 Token 收費 1.50 美元,是宣傳主打費率的三倍。Meta 的文件提醒,對話紀錄較長的請求可能會跨過這條門檻。MarkTechPost 的發布報導稱,Meta 沒有為 Ember 列出長上下文定價;但 Meta 自家的價目表顯示,事實並非如此。

這項較高費率,正好適用於祖克柏宣稱 Ember 擅長的用途。「長文件解析」和一百萬 Token 的上下文視窗,讓開發者可以輸入整個程式碼庫或一批文件,而這類請求最容易超過門檻。不過,Ember 在這個級距仍比 Haiku 5.5 便宜:MarkTechPost 指出,Haiku 在提示詞超過 100,000 個 Token 後,每百萬個輸入 Token 收費 0.50 美元、每百萬個輸出 Token 收費 2.50 美元。但此時「便宜」已變成「比替代方案便宜」,承諾的意思也就不同了。

基準測試結果如何,又是誰執行的

Meta 公布了 Ember 與 Haiku 5.5、GPT-6 Luna 的十項比較結果。Ember 最出色的項目是 AutomationBench:Artificial Analysis 以 657 項 Zapier 商業工作流程進行測試,Ember 完成 37.8% 的任務,Haiku 為 13.9%,Luna 則為 20.2%。Ember 唯一明顯落後的是 FrontierCode 2.0;這項測試評估實際程式碼變更是否達到維護者願意合併的水準,Haiku 得分 34.9,Ember 則為 27.2。

Fello AI 統計了各項數據的來源:五項來自 Artificial Analysis,四項是 Meta 自行測試;Terminal-Bench 一項則混用不同測試方式,Ember 的數據來自 Artificial Analysis,對手的數據則是自行回報。Fello 也指出,Artificial Analysis 的模型頁面只將文字和圖片列為 Ember 的輸入,因此目前音訊和影片支援的說法,仍只能依據 Meta 的說法。

Muse Ember 適合誰用

Meta 的發布貼文稱,Ember 的成本「低到足以讓每個人、在每項產品中都能使用」。但目前 Meta 自家的消費者產品都還沒有採用它:Fello AI 指出,Meta AI 應用程式、WhatsApp 和 Muse 代理程式都未提供 Ember。它現階段是供其他公司代理程式使用的零件,Meta 挑選的合作夥伴引言也印證了這一點。Cline 創辦人薩烏德·里茲萬(Saoud Rizwan)表示,這款模型適合「在執行架構中把它當作子代理程式,以降低成本的團隊」。Cloudflare 技術長戴恩·克內希特(Dane Knecht)則說,它「在測試的後段,速度比我們測過的同級模型快上最多 30%」。

這就是 Ember 背後的盤算。Meta 並不是要靠它搶占聊天視窗,而是希望它成為別人的代理程式每小時呼叫上千次的模型,同時由更大型的模型負責思考。在這類工作中,帳單金額取決於一個沒有任何供應商會公布的數字:模型完成任務需要多少 Token。

標籤: , , , ,

在 Google 中新增我們

討論

共有 0 則留言。