Mistral Large 4開放下載，在家跑要2.2萬美元Mac

Mistral 公開了 Mistral Large 4 的完整模型權重，這款模型的暱稱是 Le Chonk，任何人都可以下載、修改，並在自己的硬體上執行。這家法國 AI 實驗室表示，這是目前最擅長撰寫程式碼和執行防禦性資安工作的開放模型，例如重現軟體漏洞，再加以修補。不過，想在家中執行它的人，得先面對它的龐大體積。

Le Chonk 約有一兆個參數，每次生成一個詞時，會啟用其中 490 億個參數。根據 Hugging Face 的說法，即使是壓縮程度最高的版本，也就是 llama.cpp 團隊和 Unsloth 製作的 2 位元版本，仍需要一台配備 512 GB 統一記憶體的 Apple Silicon Ultra 機器。Apple 唯一推出過這種記憶體配置的 Mac，是搭載 M5 Ultra 晶片的 Mac Studio；9to5Mac 報導，這樣配置的機型在美國售價為 22,299 美元。其他所有執行方式，都得靠多張高階顯示卡協同運作。

Mistral 推薦這款模型的主要理由，是它的程式碼能力。該公司表示，模型在測試命令列 AI 代理的 Terminal-Bench 4.0 中拿下 41%，是開放模型中的最佳成績；在 Artificial Analysis 的程式碼代理指數中，則與 GLM-5.3 並列，但每項任務少用 47% 的 token，因此執行成本較低。在 Surge 進行的盲測並列評分中，評審認為它生成的程式碼優於 GLM-5.3、Kimi K3 和 DeepSeek V4.1 Flash，排名僅次於 Anthropic 的 Claude Opus 5.5。

它的資安主打能力，鎖定的是防禦端。Hugging Face 表示，模型在 Artificial Analysis 的一項測試中得到 82%：測試要求模型重現開源軟體中的真實漏洞，然後修復漏洞；Mistral 則稱，數款封閉式前沿模型在這項測試中的得分接近零，因為它們拒絕嘗試。銀行或政府機關可以在自己的伺服器上執行模型，交由它分析自家程式碼和當機記錄；即使服務供應商更改條款，也能繼續使用。據 Wired 報導，Mistral 科學副總裁皮埃爾·斯托克（Pierre Stock）告訴記者：「AI 將會像電力一樣。你不會想生活在這樣的世界裡：鄰居可以在某一天突然切斷你的電力。」

這些數據大多來自 Mistral 自行選定的基準測試，且外部測試才剛起步。在 Artificial Analysis 的整體智慧指數中，Hugging Face 將它列為開放模型中的第五名，而非第一名。資安方面的說法也有另一面。Mistral 表示，在預覽期間觀察即時流量時，發現「可能有助於發動真正攻擊的能力」，因此正在加強防護措施；但公開權重任何人都能下載並重新調整，攻擊者也不例外。據 Wired 報導，Sophos 威脅情報資深總監雷夫·皮林（Rafe Pilling）表示：「這顯然是一種雙重用途技術。」

即使擁有合適的 Mac，在家使用仍得有所取捨。Hugging Face 曾在較舊的 M3 Ultra Mac Studio 上執行 2 位元版本，速度約為每秒 15 個 token，聊天時還算足夠，但處理耗時較長的程式碼任務就顯得緩慢。若搭配四張 Nvidia RTX 6000 Pro 顯示卡處理非常長的文件，輸出速度則降至每秒約 3 個 token。將模型壓縮至 2 位元，也會犧牲準確度，表現不如 Mistral 用來進行基準測試的完整版本。

模型權重已上傳至 Hugging Face，全球都能下載，授權採用 Mistral Ecosystem Open-Weight License。這是一種經修改的 MIT 授權，允許免費使用、微調及推出商業產品，只有一項例外：若公司要將模型作為託管服務販售，就必須向 Mistral 另行取得商業授權。其他人也能透過 Mistral 的 API 使用模型，輸入 token 每百萬個收費 0.70 美元，輸出 token 每百萬個收費 2.10 美元；此外，也能透過 OpenRouter 和 Microsoft Foundry 使用。Mistral 在 10 月稍早推出預覽版，並於 10 月 29 日發布最終權重。Apple 表示，配備 512 GB 記憶體的 Mac Studio，預計會在 11 月下旬至 12 月上旬出貨。

斯托克告訴 Wired：「權重一旦開源，就會散布到整個網路。根本不可能切斷存取。」對沒有 22,299 美元電腦的人來說，真正的門檻就是記憶體的價格。

標籤: Hugging Face, 資安, Mac Studio, Le Chonk, Mistral AI, Mistral Large 4