前 OpenAI 員工提交意見書 反對公司轉型為盈利模式

一群前 OpenAI 員工於週五提交了一份意見書,支持 Elon Musk 對 OpenAI 的訴訟,並反對 OpenAI 從非盈利轉型為盈利公司的計劃。

該意見書列出了十二名前 OpenAI 員工的名字,包括 Steven Adler、Rosemary Campbell、Neil Chowdhury、Jacob Hilton、Daniel Kokotajlo、Gretchen Krueger、Todor Markov、Richard Ngo、Girish Sastry、William Saunders、Carrol Wainwright 和 Jeffrey Wu。意見書指出,若 OpenAI 的非盈利機構放棄對業務運營的控制,將會“根本違反其使命”。

幾位前員工此前已公開表達對 OpenAI 實踐的擔憂。Krueger 曾呼籲公司提高責任感和透明度,而 Daniel Kokotajlo 和 William Saunders 之前則警告 OpenAI 正在進行一場“魯莽”的競爭。Wainwright 表示,OpenAI “不應被信任”當其承諾將來會做正確的事情。

OpenAI 於 2015 年成立為非盈利機構,但在 2019 年轉型為“有限盈利”,目前正試圖再次重組為公共利益公司。在轉型為有限盈利時,OpenAI 保留了其非盈利部門,該部門目前在公司業務中擁有控制權。

Musk 對 OpenAI 的訴訟指控該初創公司放棄了其非盈利使命,該使命旨在確保其人工智能研究造福全人類。Musk 曾尋求初步禁令以阻止 OpenAI 的轉型,但聯邦法官拒絕了該請求,但允許案件在 2026 年春季進入陪審團審理。

根據前 OpenAI 員工的意見書,OpenAI 當前的結構——一個非盈利機構控制著其他子公司——是其整體戰略的“關鍵部分”,對組織的使命“至關重要”。任何取消非盈利機構控制角色的重組,不僅會違背 OpenAI 的使命和章程承諾,還會“違背員工、捐贈者及其他利益相關者的信任,這些人基於這些承諾而加入和支持該組織”。

意見書中寫道:“OpenAI 在其章程文件中承諾了幾項關鍵原則以執行其使命。這些承諾在公司內部被極為重視,並多次被溝通和視為具有約束力。法庭應承認,維護非盈利機構的治理對於保護 OpenAI 的獨特結構至關重要,該結構旨在確保人工通用智能造福人類,而不是服務於狹隘的財務利益。”

人工通用智能(AGI)通常被理解為能夠完成任何人類可以完成的任務的人工智能。

根據意見書,OpenAI 經常將其結構作為招聘工具,並不斷向員工保證非盈利控制對執行其使命“至關重要”。意見書回顧了 2020 年底的一次 OpenAI 全員會議,當時 OpenAI 首席執行官 Sam Altman 被指稱強調非盈利的治理和監督在“確保安全和廣泛社會利益優先於短期財務收益”方面是“至關重要”的。

“在與候選人的招聘對話中,引用 OpenAI 獨特的治理結構作為 OpenAI 與 Google 或 Anthropic 等競爭對手之間的關鍵區別,以及他們應考慮加入公司的重要原因,這是相當普遍的。”意見書中寫道。“同樣的理由也常常用來說服考慮轉投競爭對手的員工留在 OpenAI,包括我們中的一些人。”

意見書警告,如果 OpenAI 被允許轉型為盈利公司,可能會激勵其“潛在地在安全上‘縮減’”並開發強大的人工智能,“集中在其股東手中”。盈利的 OpenAI 將幾乎沒有理由遵守 OpenAI 當前章程中的“合併和協助”條款,該條款承諾 OpenAI 將停止與任何“價值一致、安全意識”項目競爭並協助其達成 AGI。

這些前 OpenAI 員工中,有些曾是公司的研究和政策領導者,與越來越多的反對 OpenAI 轉型的聲音一起發聲。

本週早些時候,包括非盈利組織和勞工團體如加州 Teamsters 在內的一組組織向加州檢察長 Rob Bonta 請願,要求阻止 OpenAI 成為盈利公司。他們聲稱該公司“未能保護其慈善資產”,並積極“顛覆其慈善使命以推進安全人工智能”。

Encode,一家共同贊助加州未遂的 SB 1047 人工智能安全立法的非盈利組織,也在去年 12 月提交的意見書中提到了類似的擔憂。

OpenAI 表示,其轉型將保留其非盈利部門,並為其提供資源,用於在醫療、教育和科學等領域的“慈善舉措”。作為其在 OpenAI 企業中的控制權的交換,該非盈利部門據報將獲得數十億美元的收益。

“我們實際上正在準備建立世界上最具設備的非盈利機構——我們並不打算轉型。”該公司在週三的一系列 X 平台帖子中寫道。

對於 OpenAI 而言,風險很高,根據多個報導,該公司需要在今年或明年結束前完成盈利轉型,否則將面臨失去近期籌集資本的風險。

【教學】免費使用 ChatGPT-4 的 6 個方法 /
【說明】4 個方法,讓你的 iPhone / Android 在香港無需 VPN 就能用 ChatGPT

十斗
十斗https://www.techritual.com/author/tenten/
十斗在知名大學取得了計算機科學與工程學位,並在學術研究方面表現出色。她的研究領域包括人工智能、機器學習和數據科學。一斗為十升,一升為十合,一合為十分之一升。謝靈運言天下才學一石,曹植占八斗,以此讚譽。後用以比喻才學極高。