技術

GPT-6 Astra 將付費用戶擋在門外,原因是 OpenAI 自己的安全規則

Adrian Kessler

道歉比存取權來得更快。OpenAI推出迄今最強大的模型,稱之為里程碑,不到一天,其執行長就在X上向每月為ChatGPT付費的用戶道歉,說他們仍然碰不到這項產品。他稱這次上線「一團混亂」。這個詞語承載了太多。

這個詞語所掩蓋的事實是,這一切並非意外。OpenAI並非伺服器不夠用,也不是碰上bug。它刻意決定,這個模型在推出當天對其付費用戶而言太過危險——然後為自己選擇的延遲道歉。這個決定,而非「一團混亂」所暗示的停機式手忙腳亂,才是真正的故事。

原因出在OpenAI自身的安全規則手冊。該公司表示,GPT-6 Astra是第一個跨越其「準備框架」中「關鍵」網路安全門檻的模型,這條內部界線意味著模型的能力一旦越過,就會觸發更嚴格的管控。白話來說:給定適當工具,Astra能夠自主找出先前未知的安全漏洞,並設法在各種嚴密系統中加以利用。在評估過程中,它發現並運用了沒有人記錄過的弱點,而且無需人類逐步引導。一個能做到這種事的模型,不是你會一瞬間就對所有付費訂閱者開放的東西。

因此,OpenAI反轉了它慣常的順序。第一個取得Astra的群體並非最高付費等級的用戶,而是一批加入其基於申請的網路安全防禦者計畫「Daybreak」的公司。公開版本拒絕處理高風險任務——它不會編寫概念驗證的攻擊程式——而經過審查的防禦者則被安排稍後取得限制較少的版本。此外,Pro、Business與Enterprise訂閱者,以及Azure和AWS上的API與雲端客戶,被告知存取權將在未來數日內開放。Pro用戶——通常最先拿到新版本——這回卻排到了隊伍尾巴。

這是OpenAI連續第二次旗艦產品上線後不得不收回成命,該公司心知肚明。山姆·奧特曼(Sam Altman)已表示,團隊在GPT-5推出時「徹底搞砸了」。如今劇本重演。「我們搞砸時,會努力補救,」他寫道,承諾近期內會全面開放,但又緩頰說他希望能讓付費用戶在週末前用上,但還不敢打包票。這個補救之舉是一項重置措施:付費訂閱者每缺少Astra一天,就獲得一次計費使用次數重置。這是補償,也是承認該公司賣出了無法按時交付的存取權。

真正的關鍵不在於使用次數重置。而在於OpenAI變成了什麼:一個它自己評定為真正危險的工具的守門人,決定哪些客戶值得持有「裝彈版本」,哪些只能拿到安全的版本。格雷格·布羅克曼(Greg Brockman)曾暗示Astra可被合理視為某種通用人工智慧;首席科學家雅各布·帕喬基(Jakub Pachocki)則表示該公司「不會接受我們監控模型對齊的能力降級到某個門檻以下」。那些不是行銷口號。那是該公司親口說出,自己的產品開始超越它們監督它的能力。道歉針對的是帳單投訴。更艱難的代價是信譽:市場上最強大的模型,由一家無法向付費者承諾使用日期的公司販售。

對所有人而言,教訓比道歉更微小也更銳利。OpenAI打造了一台機器,並且判定自己的客戶在第一天還不能信任它——而且排在客戶前面的是一群以破解東西為工作的人。

標籤: , , , ,

討論

共有 0 則留言。