剛剛追蹤到一篇可能是近期對OpenAI領導層最具譴責性的調查報導,說實話,這讓我很難忽視其中的含義。



所以在2023年,OpenAI的首席科學家伊利亞·薩茨克弗(Ilya Sutskever)整理了一份詳細的備忘錄,記錄了對山姆·奧特曼(Sam Altman)可信度的擔憂。我們談的是70頁的內容,引用了Slack日誌、人力資源記錄、內部會議記錄。開頭一句話很直白:山姆展現出一貫的說謊模式。快轉到現在,《紐約客》調查(羅南·法羅(Ronan Farrow)和安德魯·馬蘭茨(Andrew Marantz)),曝光了這份備忘錄,以及Dario Amodei的200多頁私人筆記,Amodei曾是OpenAI的安全主管,後來創立了Anthropic。

讓我感到震驚的是:OpenAI的結構本身就是為了讓安全優先於利潤而設計的非營利組織。整個前提是,若情況變得危險,必須有人能夠關閉公司。整個架構建立在一個假設上——那就是,負責運營的人必須極度誠實。

但根據備忘錄和超過100人的訪談,情況並非如此。有具體的例子:奧特曼告訴董事會,GPT-4的功能已通過安全審查,但事實並非如此。董事會成員是事後才知道的。有一件事涉及微軟和印度,ChatGPT在未完成必要安全檢查的情況下推出。當被質疑時,奧特曼聲稱是總法律顧問批准的——但總法律顧問表示他們完全不知道那是從哪來的。

Amodei的筆記描繪了一個公司在商業壓力下逐漸放棄原本使命的畫面。他記錄了微軟在2019年投資協議中插入的一條條款——基本上是說,如果有人找到一條更安全的通往AGI的路,OpenAI會幫助他們,而不是與之競爭。這是他最在意的安全護欄。然後他發現微軟已經就那條條款談判取得了否決權。在紙面上看起來不錯,但實際上卻是死路一條。

還有一個瘋狂的細節是關於Superalignment團隊。OpenAI宣布他們將投入20%的計算能力——價值可能超過十億美元。宣傳語很重:如果不解決對齊問題,AGI可能導致人類滅絕。但實際參與的人說,真正的分配只有1-2%的總容量,使用的是最老的硬體。這個團隊在未完成任何工作就被解散了。

當記者詢問OpenAI關於他們的存在安全研究團隊時,公關的回應幾乎像是喜劇:“那不是真正的團隊。”奧特曼本人也說,他的直覺與傳統的AI安全方法不符。

同時,還有另一個故事在醞釀中。OpenAI的財務長Sarah Friar顯然告訴同事,她認為公司今年還沒準備好IPO——程序工作太多,奧特曼五年內的十億美元計算支出承諾帶來太多財務風險。她甚至懷疑收入增長是否能支撐IPO。但奧特曼想在第四季推動IPO。更荒謬的是:Friar已經不再向奧特曼報告了。到2025年8月,她向OpenAI應用業務的CEO報告,而這位CEO剛剛請了醫療假。也就是說,一家公司正朝著十億美元的IPO衝刺,而CEO和財務長意見不合,財務長不再向CEO報告,且她的上司也在休假。甚至微軟高層也表示感到沮喪,有人說,奧特曼最終可能會像伯尼·麥道夫(Bernie Madoff)或SBF一樣被記住。

一位前董事會成員給出了最犀利的人物評價:奧特曼有一個罕見的組合,一方面極度渴望在每次面對面互動中被喜歡,另一方面又展現出幾近反社會的冷漠,對欺騙他人毫不在意。這是銷售人員的完美特質。喬布斯有他的現實扭曲場,但即使是喬布斯也從未告訴客戶,不買他的產品會殺死他們所愛的人。奧特曼幾乎就是這樣說的,關於AI。

讓這一切真正重要的原因在於:如果這只是普通科技公司裡的戲劇,那就只是八卦。但OpenAI不一樣。他們正在開發可能是人類歷史上最強大的技術。這項技術可能重塑全球經濟,甚至用來製造生物武器。每一個安全機制都已被剝奪。非營利使命已經消失。前首席科學家和前安全主管都不信任CEO。合作夥伴甚至將他比作詐騙者。

而在這一切之下,有人單方面決定何時釋放可能改變人類未來的模型。

紐約大學AI教授、長期安全倡導者Gary Marcus $600 在讀完報告後直言:如果OpenAI打造出能製造生物武器或發動網絡攻擊的技術,你是否願意讓奧特曼成為唯一決策者來決定是否發布?

OpenAI的回應基本是:“這些都是匿名消息來源和個人動機的循環故事。”奧特曼沒有回應具體指控,也沒有否認備忘錄,只是質疑動機。

這個故事幾乎太過完美:理想主義者創立了一個擔心AI風險的非營利組織。他們取得了突破性技術。資本湧入。資本追求回報。使命崩潰。安全團隊被裁。異議者離開。非營利轉為營利。董事會從安全監督變成了CEO的盟友。承諾用20%的計算能力保障人類安全的公司,現在公關說那根本不是真的。

超過百人用了一個詞:不受真相約束。

而他正以十億美元的估值公開推廣。
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 留言
  • 轉發
  • 分享
留言
請輸入留言內容
請輸入留言內容
暫無留言