編譯?| 禾木木

出品 |?AI科技大本營(yíng)（ID:rgznai100）

OpenAI 如何以 10 億美元的價(jià)格出售其靈魂：GPT-3 和 Codex 背后的公司并不像它聲稱(chēng)的那樣開(kāi)放。

當(dāng)金錢(qián)成為障礙時(shí)，最好的意圖可能會(huì)被破壞。

近日，一篇“How OpenAI Sold its Soul for $1 Billion”在 Reddit 上成為了網(wǎng)友熱議的話題。

Alberto Romero 的一篇文章追溯了 OpenAI 從非營(yíng)利實(shí)體成為“營(yíng)利上限”實(shí)體的歷史和發(fā)展，為了金錢(qián)出賣(mài)了自己原有的“為人類(lèi)造福”的宗旨。

OpenAI 成立于 2015 年，是一家非營(yíng)利性研究機(jī)構(gòu)，它的愿景是構(gòu)建出安全、對(duì)人類(lèi)有益的通用人工智能（AGI），由伊隆 · 馬斯克、Sam Altman 等人宣布出資 10 億美元成立。

短短4年時(shí)間，OpenAI 已經(jīng)成為全世界最具盛名的 AI 研究機(jī)構(gòu)。

2019 年，OpenAI 轉(zhuǎn)變成了一家名為 OpenAI LP 的營(yíng)利性公司，由名為 OpenAI Inc 的母公司控制。這時(shí)的 OpenAI 成為了一家「利潤(rùn)上限」機(jī)構(gòu)，將投資回報(bào)限制在原始金額的 100 倍。也就是說(shuō)，如果你投資 1000 萬(wàn)美元，最多你會(huì)得到 10 億美元?？雌饋?lái)回報(bào)率不錯(cuò)。

在這種結(jié)構(gòu)改變幾個(gè)月后，微軟宣布注資 10 億美元。OpenAI 與微軟的合作關(guān)系是基于一個(gè)重要的前提，即微軟有權(quán)將 OpenAI 的部分技術(shù)商業(yè)化。正如我們?cè)?GPT-3 和 Codex 上看到的那樣。今年 5 月末，微軟的官方網(wǎng)站便報(bào)道了他們用 GPT-3 的技術(shù)賦能內(nèi)部商業(yè)產(chǎn)品，為用戶(hù)服務(wù)。

當(dāng) OpenAI 因金錢(qián)關(guān)系與大型商業(yè)公司達(dá)成合作協(xié)議，還能相信他會(huì)信守承諾嗎？從最初的愿景出發(fā)開(kāi)發(fā)展人工智能嗎？

AI Lab 金錢(qián)為上

OpenAI 是一個(gè)人工智能研究實(shí)驗(yàn)室，但它的雄心和自身所擁有的資源相比天差地別。必須獲取足夠的資源支持，其中，金錢(qián)始終是排在了第一位。

在 GPT-3 論文橫空出世之后，外界的一個(gè)流行圍觀方式就是幫他們算成本，據(jù)估計(jì) OpenAI 訓(xùn)練 GPT-3 耗費(fèi)了 1200 萬(wàn)美元——僅僅是用于訓(xùn)練。

GPT-3 是一個(gè)大規(guī)模語(yǔ)言模型，光參數(shù)量就已達(dá)到 1750 億。如果沒(méi)有交易，他們很難獲得這么雄厚的研究經(jīng)費(fèi)。所以當(dāng) OpenAI 需要投資的時(shí)候，發(fā)現(xiàn)微軟當(dāng)時(shí)正等著給自己提供云計(jì)算服務(wù)。于是他們和擁有云服務(wù)的微軟形成了合作，至于代價(jià)，就是一種未公開(kāi)的，將其系統(tǒng)商業(yè)化的晦澀許可。

這樣，一方可以獲得計(jì)算資源，一方可以達(dá)到盈利，真是一個(gè)雙贏的結(jié)果。

早在，2020年2月時(shí)，MIT Technology Review 記者 Karen Hao 的一篇調(diào)查文章探究了微軟與 OpenAI 的合作。披露了 OpenAI 與公開(kāi)宣稱(chēng)的內(nèi)容與內(nèi)部的運(yùn)營(yíng)方式存在不一致之處，為什么一家以確保所有人擁有更美好未來(lái)為愿景的公司突然決定為「stay relevant」吸收大量私有資金？從非盈利到盈利的轉(zhuǎn)變引發(fā)了公眾甚至公司內(nèi)部的強(qiáng)烈批評(píng)。

艾倫人工智能研究所負(fù)責(zé)人 Oren Etzioni 表達(dá)了懷疑的態(tài)度：我不同意非盈利組織無(wú)法具備競(jìng)爭(zhēng)力的觀點(diǎn)…… 如果規(guī)模更大、資金更充裕就能做得更好，那么今天 IBM 仍將是世界第一。

曾為 Vice News 撰稿的 Caroline Haskins 則不相信 OpenAI 仍會(huì)忠于它的使命：「人類(lèi)從未因?yàn)橐揽匡L(fēng)投機(jī)構(gòu)而變得更好?！?/p>

從技術(shù)角度來(lái)看，OpenAI 當(dāng)前的研究方向重點(diǎn)是需要更大算力與更大數(shù)據(jù)驅(qū)動(dòng)的神經(jīng)網(wǎng)絡(luò)，這就需要很多金錢(qián)的支持。只有比肩科技巨頭的投入才能在這條道路上走下去。但正如 Etzioni 所說(shuō)的，金錢(qián)并不是在 AI 領(lǐng)域里實(shí)現(xiàn)最先進(jìn)成果的唯一途徑，有時(shí)需要?jiǎng)?chuàng)造性地思考新的想法，而不是靠堆更多的算力，或是更多的數(shù)據(jù)。

OpenAI 是如何沉淪的？

GPT-2、GPT-3「危險(xiǎn)」語(yǔ)言生成器

2019 年初，已經(jīng)成為營(yíng)利性公司的 OpenAI 發(fā)布了一個(gè)強(qiáng)大的語(yǔ)言生成模型——GPT-2，能夠生成接近人類(lèi)的自然語(yǔ)言文本。盡管 GPT-2 在當(dāng)時(shí)是一個(gè)巨大的飛躍，但研究人員認(rèn)為其像一只“危險(xiǎn)的怪獸”，所以不能開(kāi)源出來(lái)。工程師們擔(dān)心 GPT-2 會(huì)被用來(lái)生成假新聞、垃圾信息和誤導(dǎo)信息。

但在不久之后，OpenAI 又認(rèn)為不存在明顯被濫用的證據(jù)，因而將其開(kāi)源出來(lái)。

羅格斯大學(xué)教授 Britt Paris 曾表示：「這看起來(lái)就像是 OpenAI 在利用人工智能可能給人類(lèi)社會(huì)帶來(lái)的恐慌?！勾蠖鄶?shù)人把 GPT-2 的報(bào)道視為一種宣傳策略，他們認(rèn)為該系統(tǒng)其實(shí)并不像 OpenAI 聲稱(chēng)的那樣強(qiáng)大。從營(yíng)銷(xiāo)的角度來(lái)看這確實(shí)可以吸引注意力，但 OpenAI 否認(rèn)了這些指控。

如果 GPT-2 沒(méi)有 OpenAI 宣稱(chēng)的那么強(qiáng)大，那為什么要讓它看起來(lái)比實(shí)際更危險(xiǎn)呢？如果它真的性能強(qiáng)大，為什么僅僅因?yàn)椤笡](méi)有發(fā)現(xiàn)被濫用的有力證據(jù)」而完全開(kāi)源？無(wú)論如何，OpenAI 似乎都沒(méi)有遵循自己的道德標(biāo)準(zhǔn)。

2020 年 6 月，GPT-3 隨后以 API 的形式向外界提供。OpenAI 似乎認(rèn)為這個(gè)比 GPT-2 大 100 倍，更強(qiáng)大的新系統(tǒng)足夠安全，可以與世界分享。他們?cè)O(shè)置條款逐個(gè)審查每個(gè)訪問(wèn)請(qǐng)求，但他們?nèi)匀粺o(wú)法控制系統(tǒng)最終用于什么目的。

他們甚至在文章中承認(rèn)， 如果 GPT-3 落入壞人之手可能會(huì)發(fā)生一些問(wèn)題。例如“誤導(dǎo)性信息、垃圾郵件、網(wǎng)絡(luò)釣魚(yú)、濫用法律、政府內(nèi)容，學(xué)術(shù)欺詐、社會(huì)工程，再到性別、種族和宗教偏見(jiàn)?！?/p>

他們認(rèn)識(shí)到了這些問(wèn)題，但仍然決定讓用戶(hù)付費(fèi)測(cè)試。并且通過(guò) API 發(fā)布，為什么要通過(guò) API 發(fā)布它而不是開(kāi)源模型？OpenAI 回答說(shuō)，這是為他們正在進(jìn)行的AI 研究、安全和政策努力提供資金。

一句話總結(jié)就是：“負(fù)責(zé)”保護(hù)人類(lèi)免受 AI 傷害的公司決定讓人們使用一個(gè)能夠制造虛假信息和危險(xiǎn)偏見(jiàn)的系統(tǒng)，這樣他們就可以負(fù)擔(dān)昂貴的維護(hù)費(fèi)用。看起來(lái)這并不是什么「對(duì)所有人有益的價(jià)值」。

所以，當(dāng)時(shí)社交網(wǎng)絡(luò)上出現(xiàn) GPT-3 有害的討論就是順理成章的了。Facebook 人工智能負(fù)責(zé)人 Jerome Pesenti 寫(xiě)了一條推文，在推文中舉了一個(gè)例子，談到 GPT-3 可能會(huì)生成加劇種族與性別歧視的文本。

在一項(xiàng)利用 GPT-3 獨(dú)特性的嘗試中，UC Berkeley 的計(jì)算機(jī)系學(xué)生 Liam Porr 讓系統(tǒng)寫(xiě)了一篇能提高寫(xiě)作效率的文章，并將其分享了出來(lái)。這篇文章騙過(guò)了很多人，甚至登上了 Hacker News 的榜首。試想，如果像他這樣沒(méi)有惡意的學(xué)生都能夠設(shè)法用 AI 寫(xiě)的文章騙過(guò)所有人，一群懷有惡意的人會(huì)用它做什么？比如傳播假新聞？

除了傳播假新聞，另一個(gè)危害是傳播人類(lèi)無(wú)法區(qū)分的假新聞。這一點(diǎn)也被 OpenAI 在一篇文章中認(rèn)可、甚至強(qiáng)調(diào)了：

人類(lèi)在檢測(cè) GPT-3 175B 生成的較長(zhǎng)文章時(shí)的平均準(zhǔn)確率僅略高于 52%。這表明，GPT-3 能夠繼續(xù)生成人類(lèi)難以區(qū)分的、長(zhǎng)度約為 500 字的新聞文章。

Copilot 潛在的法律問(wèn)題

Codex and Copilot，侵權(quán)了嗎？

幾周前，OpenAI、GitHub和微軟聯(lián)合發(fā)布了 Copilot ，這是一個(gè)基于 Codex 之上的 AI 結(jié)對(duì)編程助手。

然而，卻引來(lái)了強(qiáng)烈批評(píng)，因?yàn)?Copilot 是用 GitHub 公共存儲(chǔ)庫(kù)的開(kāi)源代碼盲目訓(xùn)練的。

以為用戶(hù)在 Hacker News 上指出了使用 Copilot 可能存在的法律問(wèn)題，比如：

AI 生成的代碼屬于我還是 GitHub？

生成的代碼用什么許可證？

如果生成的代碼侵權(quán)，誰(shuí)來(lái)?yè)?dān)責(zé)或采取法律行動(dòng)？

GitHub 首席執(zhí)行官 Nat Friedman 回答說(shuō)成果屬于操作者，但是其他問(wèn)題并未回應(yīng)。

另外，著名開(kāi)源開(kāi)發(fā)者 Armin Ronacher 也在 Twitter 上分享過(guò) Copilot 抄襲大量受版權(quán)保護(hù)代碼的例子。

還有用戶(hù)稱(chēng)，「有直接證據(jù)表明 Copilot 直接復(fù)制了 GPL 的大量代碼。證明這是在商業(yè)環(huán)境中使用的非常危險(xiǎn)的工具?！?/p>

不過(guò)，最讓人想不通的是，Copilot 是在數(shù)千名開(kāi)發(fā)人員生成的開(kāi)源代碼上訓(xùn)練的，然后GitHub 或 OpenAI 又將這一系統(tǒng)出售給相同的開(kāi)發(fā)人員使用。

對(duì)此，程序員兼游戲設(shè)計(jì)師 Evelyn Woods說(shuō)，「這感覺(jué)就像是當(dāng)面嘲笑開(kāi)源?！?/p>

我們還能寄希望于 OpenAI 嗎？

OpenAI 現(xiàn)在的真實(shí)愿景到底是什么？

他們是不是與微軟緊密相連，以至于忘記了自己「為人類(lèi)進(jìn)步」而奮斗的初衷？還是說(shuō)他們真的以為自己擁有最好的工具和人才來(lái)踐行這條路線，即使將靈魂出賣(mài)給一個(gè)大型科技公司也在所不惜？我們是否真的愿意讓 OpenAI 按照它的愿景來(lái)構(gòu)建未來(lái)？還是說(shuō)我們希望我們的愿景更加多樣化，并將其與經(jīng)濟(jì)利益分離？

OpenAI在邁向更加復(fù)雜的人工智能道路上占據(jù)了主導(dǎo)地位，當(dāng)然，也有許多其他有潛力的機(jī)構(gòu)在做相關(guān)的工作，這些機(jī)構(gòu)并沒(méi)有與金錢(qián)產(chǎn)生直接的聯(lián)系，因而也受到了外界廣泛的關(guān)注。

就目前來(lái)看，大型科技公司的目標(biāo)似乎是并不是建立一個(gè)滿足科學(xué)好奇心的通用人工智能，也不是建立一個(gè)最安全、最負(fù)責(zé)、最道德的人工智能。他們的首要任務(wù)是賺錢(qián)！他們會(huì)不惜一切做到這一點(diǎn)，即使這意味要走上一條模糊的道路，而我們大多數(shù)人都會(huì)避開(kāi)這一道路。

OpenAI 的聯(lián)合創(chuàng)始人馬斯克甚至也認(rèn)同這些批評(píng)：

馬斯克：我覺(jué)得 OpenAI 應(yīng)該再開(kāi)放一點(diǎn)。

OpenAI 已經(jīng)不再“Open”

在 Reddit 上，Alberto Romero 的文章也引起了網(wǎng)友的討論。

網(wǎng)友紛紛稱(chēng)：OpenAI 早已應(yīng)該更名為“ClosedAI”。

也許 OpenAI 公司扔在堅(jiān)持他們最初的使命，但他們不能為了達(dá)到目的不擇手段。因?yàn)檫@些手段可能會(huì)損害更高的目的。

我們想要 AGI 嗎？從科學(xué)的角度來(lái)看，答案不可能是否定的。人們對(duì)于科學(xué)的好奇心是沒(méi)有極限的，然而，我們應(yīng)該時(shí)刻評(píng)估潛在的危險(xiǎn)。核聚變是非凡的，但核彈不是。

我們想不惜一切代價(jià)實(shí)現(xiàn) AGI 嗎？從道德的角度來(lái)看，答案不可能是肯定的。這些快速發(fā)展的技術(shù)將對(duì)我們所有人產(chǎn)生影響，所以我們應(yīng)該注意到這個(gè)問(wèn)題。

我們正在快速地更新這些深刻改變?nèi)藗兩畹募夹g(shù)。但是，如果只關(guān)心自己的利益和目標(biāo)，無(wú)論是 OpenAI 還是其他人，最后都應(yīng)該對(duì)后果承擔(dān)很大的責(zé)任。

對(duì)此，你怎么看呢？

參考鏈接：

https://onezero.medium.com/openai-sold-its-soul-for-1-billion-cf35ff9e8cd4

https://www.reddit.com/r/MachineLearning/comments/pizllt/d_how_openai_sold_its_soul_for_1_billion_the/

https://news.ycombinator.com/item?id=27676939

https://www.technologyreview.com/2020/02/17/844721/ai-openai-moonshot-elon-musk-sam-altman-greg-brockman-messy-secretive-reality/

https://www.theverge.com/2019/11/7/20953040/openai-text-generation-ai-gpt-2-full-model-release-1-5b-parameters

https://syncedreview.com/2019/11/05/openai-releases-1-5-billion-parameter-gpt-2-model/

本文由AI科技大本營(yíng)翻譯，轉(zhuǎn)載請(qǐng)注明出處。