技術

蘋果Mac mini M6本地AI推理 899美元起售

Susan Hill

過去要運行自己的AI模型,意味著得擁有大多數人一輩子都不會接觸的硬體:伺服器機架、比筆電還貴的GPU顯卡、以及遠端運算的訂閱服務。如今,M6 Mac mini——一個厚書本大小的灰色小盒子——就能在辦公桌上完成同樣的工作,售價899美元。

這個價格之所以重要,是因為它讓本地AI(無需將資料傳送至遠端伺服器即可進行的推論)落入了許多專業人士早已編列預算的設備範圍。蘋果的測試數據顯示,M6在LM Studio中測得的大型語言模型提示處理速度是前代M4機型的4.8倍。白話來說:過去需要專門硬體才能運行的大型語言模型,現在這台機器就能勝任,而且完全離線運作。

機器內建的M6晶片搭載雙16核心神經引擎(兩個神經加速器同步運作),蘋果表示這使得神經運算速度比前一代快兩倍。它還配備12核心CPU與12核心GPU,背後有170 GB/s的統一記憶體頻寬支援。標準配置為16 GB統一記憶體,可選配升級至32 GB。

這台裝置能處理的工作負載包括影像生成的擴散模型、即時照片風格轉換、多步驟AI代理,以及完整的LLM推論——全都在本地執行,無需任何訂閱費用。macOS 27中的Apple Intelligence透過作業系統本身提供多項這類功能,而LM Studio等工具則允許使用者載入任何想運行的開放模型。

對比一下變化有多大:蘋果的數據顯示,M6的LLM處理速度是五年前發表的M1 Mac mini的13.5倍。M1在實際應用中幾乎無法運行多數本地AI工作負載,而M6可以。

對於需要更高記憶體上限或更強多核心效能的用戶,蘋果也提供搭載M5 Pro晶片的Mac mini,售價1,699美元。即日起開放預購,兩款型號皆於9月22日出貨。

但有一說一:899美元的主機仍需自備螢幕、鍵盤與滑鼠,這會拉高實際入門成本。此外,本地AI推論並不比雲端AI簡單——你得自行下載模型、管理更新、處理雲端通常會幫你抽象化的基礎架構。目前最適合這台機器的是重視隱私、不希望資料離開辦公室的專業人士,不想按Token計費、追求快速推論的開發者,以及需要一個穩定本地端點的研究人員。

這群人一直在等待一台定價像工具、而非像伺服器的硬體。憑藉M6,蘋果終於為他們打造出這樣的產品。

標籤: , , , , ,

討論

共有 0 則留言。