奧特曼被開除：通往AGI的激進(jìn)派和保守派之爭(zhēng)
分類: 最新資訊
潛能詞典
編輯 : 潛能
發(fā)布 : 11-19
閱讀 :130
文/丁廣勝“OpenAI已經(jīng)變得非常危險(xiǎn)。”“它已成為引發(fā)全球網(wǎng)絡(luò)安全問題的禍?zhǔn)祝 边@是創(chuàng)始人之一馬斯克對(duì)這家非盈利組織的評(píng)價(jià)，而現(xiàn)在，有人為這場(chǎng)狂飆踩了一腳“剎車”，代價(jià)是CEO山姆·奧特曼出局。今日的一紙公告，掀翻了這場(chǎng)AI行業(yè)年度大戲，令科技界一片嘩然。這是全球最備受矚目的AI公司OpenAI，創(chuàng)始人山姆·奧特曼被罷免，也揭開了走向通用人工智能路上的路線之爭(zhēng)，這家超級(jí)獨(dú)角獸，再次站在聚光燈下。事件的源起是OpenAI于美國(guó)時(shí)間11月17日的一則聲明，宣布公司首席執(zhí)行官山姆·奧特曼將離開公司，公司現(xiàn)首席技術(shù)官米拉·穆拉蒂被任命為臨時(shí)首席執(zhí)行官。OpenAI稱，接任CEO的人選仍在確認(rèn)過程中。公告絲毫不留情面。OpenAI表示，奧特曼的離職是在董事會(huì)進(jìn)行的深思熟慮的審查過程之后得出的結(jié)論，他在與董事會(huì)的溝通中并不一貫坦誠(chéng)，阻礙了其履行職責(zé)的能力。沒有人不感到震驚，吃瓜吃到了自己身上，奧特曼本人也一度處于懵圈狀態(tài)，消息稱，被開除的幾個(gè)小時(shí)前，他還參加了OpenAI與微軟基礎(chǔ)設(shè)施高管舉行的定期會(huì)議。作為當(dāng)事人，他在社交平臺(tái)x回應(yīng)說：“在 OpenAI 的日子讓我難忘。這段經(jīng)歷對(duì)我非常重要，我也希望它對(duì)世界也有所貢獻(xiàn)。最讓我珍惜的，是與那些非常優(yōu)秀的同事們共事的經(jīng)歷。關(guān)于我未來的打算，我會(huì)在不久后分享更多細(xì)節(jié)”。有消息稱，他將繼續(xù)回歸投資行業(yè)。罷免令始作俑者是誰？ 子彈飛了一會(huì)兒，事情脈絡(luò)逐步清晰。我們看看發(fā)布公告的董事會(huì)，OpenAI 董事會(huì)原本的結(jié)構(gòu)是3:3，三位OpenAl 的管理層，分別是Sam Altman，Greg Brockman（格雷格·布羅克曼）和 Ilya Sutskever ，(這次的臨時(shí)CEO Mira Murati米拉·穆拉蒂不在董事會(huì)行列），另外三位是代表“社會(huì)公眾監(jiān)督”的外部董事。(圖注：OpenAI 總裁兼聯(lián)合創(chuàng)始人 Greg Brockman格雷格·布羅克曼）董事會(huì)里三位管理層，除被罷免的奧特曼外，只剩下Greg和Ilya ，Greg是OpenAI 總裁兼聯(lián)合創(chuàng)始人，他首先跳出來撇清關(guān)系，并表示不解，將離開OpenAI。Greg在x回應(yīng)：OpenAI 創(chuàng)辦八年以來，我對(duì)我們大家一起創(chuàng)造的東西感到自豪。我們一起經(jīng)歷了艱難而又美好的時(shí)光，盡管有種種原因，但我們還是取得了如此多的成就。但根據(jù)今天的新聞，我辭職了。衷心祝愿大家一切順利。我仍然堅(jiān)信創(chuàng)建造福全人類的安全 AGl（通用人工智能）的使命。Greg早在2015年，就參與同埃隆·馬斯克、奧特曼等人發(fā)起成立OpenAI，旨在推動(dòng)人工智能技術(shù)的發(fā)展。事情還在發(fā)酵，據(jù)外媒The Information，在CEO奧特曼被開除后，還有OpenAI的三名高級(jí)研究人員辭職。知情人士稱，公司的研究主管雅庫布·帕喬基（Jakub Pachocki）、評(píng)估AI潛在風(fēng)險(xiǎn)團(tuán)隊(duì)的負(fù)責(zé)人亞歷山大·馬德里（Aleksander Madry）以及在公司工作了七年的研究員西蒙·西多爾（Szymon Sidor）告訴同事們，他們已經(jīng)辭職。(圖注：OpenAI聯(lián)合創(chuàng)始人和首席科學(xué)家、機(jī)器學(xué)習(xí)領(lǐng)域的頂尖學(xué)者Ilya Sutskever）至此，干掉奧特曼的幕后大佬水落石出，OpenAI聯(lián)合創(chuàng)始人和首席科學(xué)家、機(jī)器學(xué)習(xí)領(lǐng)域的頂尖學(xué)者Ilya Sutskever。據(jù)外媒披露，Ilya Sutskever曾表示，OpenAI面臨安全風(fēng)險(xiǎn)和激進(jìn)的商業(yè)化策略問題。關(guān)于奧特曼被開除，他也回應(yīng)稱：這次經(jīng)歷將讓我們感覺更加親密，因?yàn)镺penAI團(tuán)隊(duì)會(huì)從奧特曼的離職中吸取教訓(xùn)。通往AGI的激進(jìn)派和保守派之爭(zhēng)所以，奧特曼被開除的原因就是Ilya等人出于對(duì)他可能會(huì)通過部署最新的突破性技術(shù)而過快推動(dòng)AI發(fā)展的擔(dān)憂。OpenAI內(nèi)部的裂痕越來越大。在奧特曼的推動(dòng)下，OpenAI的年收入已經(jīng)到達(dá)13億美金，并且在剛剛舉辦的開發(fā)日上發(fā)布了更普惠的產(chǎn)品方案和應(yīng)用商店，以期在市場(chǎng)上大展宏圖。(圖注：OpenAI前CEO Sam Altman 山姆·奧特曼）而Ilya等人認(rèn)為，OpenAI的發(fā)展不能偏離核心價(jià)值，通用人工智能的推進(jìn)路上應(yīng)該始終堅(jiān)持工程師驅(qū)動(dòng)，安全地開發(fā)人工智能技術(shù)，造福世界，而不是股東。針對(duì)這樣的擔(dān)憂，OpenAI最著名的批判者是馬斯克， 今年2月，OpenAI創(chuàng)始人之一、特斯拉 CEO 埃隆?馬斯克在社交平臺(tái)上與網(wǎng)友互動(dòng)時(shí)表示，“OpenAI 是作為一家開源（這也是為什么命名為“OpenAI”）、非盈利的公司創(chuàng)建的，以作為對(duì)谷歌的制衡，但現(xiàn)在它已經(jīng)成為一家封閉的、最大利潤(rùn)化的公司，實(shí)際上被微軟公司控制。這完全不是我的初衷。”后來由于利益等種種原因，馬斯克于2018年離開了OpenAI，后來創(chuàng)辦了xAI來延續(xù)自己的意志，這家公司新成立于2023年7月，目標(biāo)是專注于回答更深層次的科學(xué)問題，期望未來可以用AI去幫助人們解決復(fù)雜的科學(xué)和數(shù)學(xué)問題，并且“理解”宇宙。AI發(fā)展的“保守派”不僅僅是馬斯克，3月29日，由圖靈獎(jiǎng)得主、深度學(xué)習(xí)三巨頭之一約書亞·本吉奧（Yoshua Bengio），埃隆·馬斯克，《人類簡(jiǎn)史》作者尤瓦爾·赫拉利等人聯(lián)名發(fā)表公開信，呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)，為期至少6個(gè)月，以確保人類能夠有效管理其風(fēng)險(xiǎn)。暫停工作應(yīng)該是公開且可以證實(shí)的，如果AI實(shí)驗(yàn)室不能快速暫停，各國(guó)政府應(yīng)該實(shí)行暫停令。這份公開信，獲得上千位人士簽名響應(yīng)。公開信中的一段話讓人深思。《阿西洛馬人工智能原則》中指出，高級(jí)人工智能可能代表著地球上生命歷史的深刻變革，應(yīng)該以相應(yīng)的謹(jǐn)慎和資源進(jìn)行規(guī)劃和管理。然而，盡管最近幾個(gè)月人工智能實(shí)驗(yàn)室掀起AI狂潮，開發(fā)和部署越來越強(qiáng)大的數(shù)字大腦，但目前沒有人能理解、預(yù)測(cè)或可靠地控制AI系統(tǒng)，也沒有相應(yīng)水平的規(guī)劃和管理。可以預(yù)見，AI的研發(fā)雖不會(huì)止步，但OpenAI將以更緩慢的節(jié)奏發(fā)布項(xiàng)目，以取得發(fā)展和安全的平衡。微軟，史上最冤的吃瓜群眾？2019年，為確保公司能持續(xù)運(yùn)作，OpenAI在艱難之下重組，以追求“達(dá)到通用人工智能”。非營(yíng)利組織的使命、治理和監(jiān)督保持不變。幾乎同期，OpenAI獲得微軟10億美元注資。2020年，奧特曼離開硅谷孵化器Y Combinator，走馬上任OpenAI的CEO。2023年，OpenAI又獲得來自微軟100億美元的投資。有意思的是，種種跡象表明，作為OpenAI最大的投資者，也和全球網(wǎng)友們幾乎同一時(shí)間知道了奧特曼被開除的消息，成為史上最冤的吃瓜群眾。微軟公司CEO、董事長(zhǎng)納德拉得知后在x表示，我們將繼續(xù)為這個(gè) AI 時(shí)代快速創(chuàng)新。我們與 OpenAI 簽訂了長(zhǎng)期協(xié)議，可以完全訪問我們實(shí)現(xiàn)創(chuàng)新議程和令人興奮的產(chǎn)品路線圖所需的一切；并繼續(xù)致力于我們的合作伙伴關(guān)系、米拉和團(tuán)隊(duì)。我們將共同努力，繼續(xù)為世界帶來這項(xiàng)技術(shù)的有意義的好處。是否間接推動(dòng)奧特曼的免職我們不得而知，但微軟對(duì)于奧特曼帶領(lǐng)下的OpenAI ，最大股東微軟肯定頗有微詞、甚至非常不滿。OpenAI 和微軟并沒有產(chǎn)生預(yù)想的化學(xué)反應(yīng)，為微軟的全家桶帶來實(shí)際增效，從微軟最新的財(cái)報(bào)便略知一二。在今年7月，納德拉出現(xiàn)在了Meta開源大語言模型Llama 2的發(fā)布現(xiàn)場(chǎng)。他并不希望把雞蛋都放在一個(gè)籃子里。而對(duì)于奧特曼的離開，微軟或有機(jī)會(huì)加強(qiáng)對(duì)OpenAI的控制，成為最大贏家。不管怎樣，奧特曼的OpenAI時(shí)代落幕，今天，我看到對(duì)他最大的褒獎(jiǎng)是這樣一句話：如果沒有奧特曼，GPT-4就不會(huì)存在。我們更聽到有對(duì)他粉絲般的應(yīng)援聲，來自谷歌前首席執(zhí)行官埃里克·施密特（Eric Schmidt）。“奧特曼將這家公司從一無所有發(fā)展成900億美金的企業(yè)，他永遠(yuǎn)改變了人類和整個(gè)世界。”
