Published on

AI教父辛頓支持訴訟，阻止OpenAI轉型為營利組織

Authors
  • avatar
    Name
    Ajax
    Twitter

OpenAI 轉型引發爭議

上週五，OpenAI 宣布計劃將其組織拆分為營利性和非營利性兩個部分，這一舉動在人工智慧社群引發了廣泛的討論和爭議。此舉不僅僅是組織結構的變更，更觸及了人工智慧發展的倫理與安全核心問題，引發了業界對於科技公司在追求利益與社會責任之間如何平衡的深刻反思。

馬斯克訴訟獲支持

此前，特斯拉 CEO 伊隆·馬斯克已於 11 月對 OpenAI 提起聯邦訴訟，試圖通過初步禁令阻止其轉型。現在，這一訴訟得到了更多人的支持，其中包括被譽為「AI 教父」的諾貝爾獎得主 Geoffrey Hinton。馬斯克的訴訟不僅是對 OpenAI 轉型的挑戰，更是對整個科技行業發展模式的質疑，他認為 OpenAI 的轉型偏離了其最初的使命，並可能對社會造成潛在的危害。

Geoffrey Hinton 的立場

Geoffrey Hinton 因其在人工神經網路領域的貢獻而備受尊敬，他不僅是圖靈獎得主，還在 2024 年榮獲諾貝爾物理學獎。Hinton 公開表示支持阻止 OpenAI 轉型的訴訟，認為此舉違背了 OpenAI 最初的安全承諾。Hinton 的立場無疑為這場訴訟增添了巨大的影響力，他作為人工智慧領域的權威，其觀點不僅代表了學術界的擔憂，也引起了公眾對人工智慧發展方向的重視。

Encode 組織加入訴訟

青年倡導組織 Encode 也提交了法庭之友陳述，支持馬斯克的訴訟。Encode 曾參與加州人工智慧安全立法，他們認為 OpenAI 的營利性轉型將破壞其以安全和公共利益為導向的使命。Encode 的加入進一步擴大了這場訴訟的影響範圍，他們不僅代表了年輕一代的聲音，也體現了社會對人工智慧倫理的普遍關注。

Encode 的觀點

Encode 認為，OpenAI 將人工智慧的利潤內部化，卻將風險外部化給全人類。他們強調，如果世界正處於通用人工智慧的新時代，那麼這項技術應該由一個受法律約束、優先考慮安全和公共利益的公共慈善機構控制，而不是由一個專注於為少數投資者創造財務回報的組織控制。Encode 的觀點直指問題核心，他們認為人工智慧作為一項具有巨大潛力的技術，其發展應以公共利益為優先，而非僅僅是商業利益的考量。

  • 風險外部化： Encode 指出，OpenAI 的營利性轉型將導致其將人工智慧的潛在風險轉嫁給社會大眾，而自身則專注於獲取利潤。
  • 公共慈善機構控制： 他們認為，通用人工智慧應由一個受法律約束、優先考慮安全和公共利益的公共慈善機構控制，以確保其發展符合社會整體利益。

法律挑戰的核心

Encode 的律師指出，OpenAI 的非營利組織曾承諾停止與任何「價值一致、具有安全意識的項目」競爭。然而，一旦轉型為營利性組織，情況將大不相同。此外，重組完成後，非營利組織的董事將無法再根據安全需要取消投資者的股權。這意味著，OpenAI 的營利性轉型不僅改變了其組織結構，也使其在安全方面的承諾變得難以實現，原有的制衡機制也將失效。

  • 承諾變更： OpenAI 的非營利組織曾承諾不與價值一致的項目競爭，但轉型後這一承諾將難以維持。
  • 控制權喪失： 重組後，非營利組織將失去對營利性組織的控制權，無法再以安全為由干預其決策。

人才流失與安全擔憂

OpenAI 近期出現高級人才流失，部分原因是員工擔心公司為了商業利益而犧牲安全。前政策研究員 Miles Brundage 認為，OpenAI 的非營利部分可能會淪為「副業」，而營利部分則會像「正常公司」一樣運營，潛在的安全問題無法得到解決。人才流失不僅反映了員工對公司發展方向的擔憂，也凸顯了 OpenAI 在安全與商業利益之間難以平衡的困境。

  • 安全優先性降低： 員工擔心 OpenAI 的營利性轉型將導致公司更加重視商業利益，而忽視人工智慧的安全問題。
  • 非營利部分邊緣化： 隨著營利性部分成為主導，非營利部分可能淪為附屬，無法有效監督和引導人工智慧的發展方向。

公共利益的考量

Encode 認為，OpenAI 所宣揚的對人類的責任將不復存在，因為德拉瓦州法律明確規定，公共利益公司的董事對公眾不承擔任何責任。他們認為，一個以安全為中心、任務受限的非營利組織將控制權交給一個對安全沒有可執行承諾的營利性企業，將損害公共利益。這意味著，OpenAI 的轉型不僅改變了其組織結構，也使其在安全方面的承諾變得難以實現，原有的制衡機制也將失效。

  • 責任缺失： 根據德拉瓦州法律，公共利益公司的董事對公眾不承擔責任，這使得 OpenAI 的安全承諾難以落實。
  • 損害公共利益： Encode 認為，OpenAI 的轉型將導致公共利益受損，因為一個以營利為目標的企業難以兼顧人工智慧的安全與社會責任。

聽證會安排

關於初步禁令的聽證會定於 2025 年 1 月 14 日在美國地區法官 Yvonne Gonzalez Rogers 處進行。這場聽證會的結果將直接影響 OpenAI 的轉型進程，也將對人工智慧的未來發展產生深遠的影響。

OpenAI 的歷史與轉型

OpenAI 於 2015 年作為非營利研究實驗室成立。隨著實驗進程的加快，公司變得越來越資本密集，開始接受外部投資。2019 年，OpenAI 轉型為具有混合結構的初創公司，由非營利組織控制營利性機構。近期，OpenAI 計劃將其營利性公司轉變為德拉瓦州公共利益公司 (PBC)，並發行普通股。非營利組織部分將保留，但將放棄控制權以換取 PBC 的股份。

  • 2015年： 作為非營利研究實驗室成立。
  • 2019年： 轉型為混合結構的初創公司，非營利組織控制營利性機構。
  • 近期： 計劃轉變為德拉瓦州公共利益公司 (PBC)，非營利組織放棄控制權。

馬斯克的指責

馬斯克指責 OpenAI 放棄了其最初的慈善使命，即讓所有人都能獲得人工智慧研究成果，並通過反競爭手段剝奪競爭對手的資本。馬斯克的指責不僅是對 OpenAI 轉型的質疑，更是對科技公司在追求利益與社會責任之間如何平衡的拷問。

OpenAI 的回應

OpenAI 稱馬斯克的抱怨「毫無根據」，只是「吃不到葡萄說葡萄酸」而已。OpenAI 的回應雖然強硬，但並未能完全消除外界對其轉型的擔憂，反而加劇了人們對其發展方向的疑慮。