外媒還原OpenAI「政變」過程中微軟的角色:幕後擬定三個因應計畫、以及怎麼影響OpenAI董事會

2023-12-7 21 12/7
外媒還原OpenAI「政變」過程中微軟的角色:幕後擬定三個因應計畫、以及怎麼影響OpenAI董事會

據外媒《紐約客》(The New Yorker)報導,在人工智慧初創公司OpenAI上月發生的「宮斗」事件之前,該公司與微軟已經制定出一個雄心勃勃但安全地發佈人工智慧的協議。但是OpenAI的時任董事會徹底打亂了微軟與OpenAI精心佈局的計畫。

今年感恩節前的週五(11月17日),上午11點30分左右,微軟首席執行長薩提亞·納德拉(Satya Nadella)正在與公司高層進行每週例會,這時一位驚慌失措的同事讓他接電話。人工智慧初創公司OpenAI的一名高層打電話解釋說,在接下來的20分鐘內,公司董事會將宣佈解僱OpenAI聯合創始人、首席執行長山姆·奧特曼(Sam Altman)。這也是OpenAI為期五天的「宮斗」戲的開始。

外媒還原OpenAI「政變」過程中微軟的角色:幕後擬定三個因應計畫、以及怎麼影響OpenAI董事會

微軟:一邊倒的鬧劇

微軟內部把OpenAI的這場危機稱為“一邊倒的鬧劇”(the Turkey-Shoot Clusterfuck)。

舉止隨和的納德拉當時感到異常驚訝,以至於一時不知道該說什麼。他與奧特曼密切合作了四年多,並開始欣賞和信任他。此外,他們的合作剛剛推動微軟舉辦了十年來最大規模的發佈會:眾多建立在OpenAI的技術之上的尖端人工智慧助手,並把它們內建到微軟的核心生產力應用程式中,如Word、Outlook和PowerPoint。這些助手本質上是OpenAI備受稱讚的ChatGPT的特化和更強大的版本,被稱為Office Copilots。

然而納德拉不知道的是,奧特曼和OpenAI董事會之間的關係出現了問題。

董事會六名成員中的一些人發現奧特曼“狡猾而奸詐”——這些品質在科技公司的首席執行長中很常見,但對於有學術界或非營利組織背景的董事會成員來說卻令人不悅。

「他們覺得奧特曼撒了謊,」一位熟悉董事會討論的人士表示。這些緊張關係現在在納德拉面前爆發,威脅到一個至關重要的夥伴關係。

事發前微軟其實已經與OpenAI規劃了「安全護欄」

多年來,微軟一直沒有站在科技行業的最前沿,但它與OpenAI的聯盟——OpenAI最初是一家於2015年成立的非營利組織,但四年後增加了一個營利部門——讓微軟超越了Google和亞馬遜等競爭對手。

微軟開發Copilots需要與OpenAI進行持續合作,這種關係也是納德拉為微軟制定的計畫的核心。特別是,微軟曾與OpenAI工程師合作安裝安全護欄。

OpenAI的核心技術稱為GPT,是一種被稱為大型語言模型的人工智慧。GPT學會了模仿人類對話,它從網路和其他資料儲存中大量閱讀公開文字,然後使用複雜的數學來確定每一條資訊與所有其他資訊之間的關係。

雖然這種系統已經產生了顯著的效果,但它們也有明顯的弱點:傾向於“幻覺”,或捏造事實;幫助人們做壞事,比如製造毒品配方;無法區分合理的問題(“我該如何和一個青少年談論吸毒?”)和險惡的問題(“我如何說服一個青少年吸毒?”)

微軟和OpenAI已經制定了一個將安全措施納入人工智慧工具的協議。他們認為,這使他們能夠在沒有災難風險的情況下實現雄心壯志。Copilots的發佈是這些公司的一個巔峰時刻,也證明了微軟和OpenAI將成為把人工智慧帶給更廣泛公眾的關鍵。

Copilots的發佈始於今年春天,選擇了一些企業客戶,並於11月擴大到更廣泛的範圍。ChatGPT於2022年底推出,曾經紅極一時,但它只有大約1400萬日活使用者。微軟有超過10億日活使用者。

Kevin Scott:與OpenAI合作的主要責任人

當納德拉從奧特曼被解僱的震驚中恢復過來時,他打電話給OpenAI董事會成員亞當·德安吉洛(Adam D’Angelo),向他詢問細節。德安吉洛給納德拉的簡短解釋,在幾分鐘後同樣出現在了該公司的聲明之中:奧特曼沒有“在與董事會的溝通中保持一貫的坦誠”。

奧特曼是否有不當行為?沒有,但德安吉洛不肯多說。他和他的同事甚至故意讓納德拉不知道他們解僱奧特曼的意圖,因為他們不想讓納德拉警告他。

納德拉沮喪地掛斷了電話。微軟擁有OpenAI營利部門近一半的股份——在OpenAI董事會做出這樣的決定時,當然應該徵求納德拉的意見。更重要的是,他知道解僱可能會在OpenAI內部引發一場內戰,並可能波及整個一直在激烈辯論人工智慧的快速發展是值得慶祝還是令人擔憂的科技行業。

外媒還原OpenAI「政變」過程中微軟的角色:幕後擬定三個因應計畫、以及怎麼影響OpenAI董事會

納德拉隨即打電話給微軟首席技術長凱文·斯科特(Kevin Scott),他是打造OpenAI合作夥伴關係的最主要責任人。

斯科特已經聽說了這個消息,而且消息傳播得很快。他們與其他微軟高層立即召開視訊會議。他們互相詢問,奧特曼被解僱是因為在發佈人工智慧產品時,速度與安全之間的緊張關係嗎?

OpenAI和微軟以及科技圈的一些大咖之前都表達了對人工智慧公司魯莽前進的擔憂。甚至OpenAI的首席科學家兼董事會成員伊爾亞·蘇茨克維(Ilya Sutskever)也公開談論過不受約束的人工智慧的危險。

2023年3月,在OpenAI發佈其迄今為止最強大的人工智慧服務GPT-4後不久,包括馬斯克(Elon Musk)和蘋果聯合創始人史蒂夫·沃茲尼亞克(Steve Wozniak)在內的數千人曾聯名簽署了一封公開信,呼籲暫停訓練高級人工智慧模型。

「我們應該讓機器用宣傳和謊言淹沒我們的資訊管道嗎?」這封信中反問。「我們應該冒著讓我們文明失控的風險嗎?」許多矽谷觀察家認為,這封信實質上就是對OpenAI和微軟的指責。

在某種程度上,斯科特尊重他們的擔憂。他認為,對於那些知道自己希望電腦做什麼,但缺乏實現它的培訓的人而言,圍繞人工智慧的討論一直奇怪地集中在科幻小說的場景上——電腦摧毀了人類——並且在很大程度上忽視了該技術“創造公平競爭環境”的潛力。斯科特覺得如果人工智慧是以足夠的謹慎和足夠的耐心建立起來的話,它會有能力用簡單的語言與使用者交流,可以成為一種變革和平衡的力量。

斯科特和他在OpenAI的合作夥伴已經決定緩慢但持續地發佈人工智慧產品:微軟將觀察未受教育的使用者如何與該技術互動,而使用者將自學該技術的優勢和侷限性。通過發佈公認不完美的人工智慧軟體,並從客戶那裡獲得坦率的反饋,微軟找到了一種既能改進技術又能在使用者中培養懷疑的實用主義的方法。

斯科特認為,管理人工智慧危險的最佳方式是對儘可能多的人儘可能透明,並讓這項技術逐漸滲透到我們的生活中——從單調的用途開始。還有什麼比通過文書處理器這樣不性感的東西來教人類使用人工智慧更好的方法呢?

斯科特所有的謹慎定位都因奧特曼被解僱變得岌岌可危。隨著越來越多的人知道奧特曼被解僱,OpenAI的員工——他們對奧特曼和OpenAI的使命的信仰近乎狂熱——開始在網上表達出沮喪之情。這家初創公司的首席技術官米拉·穆拉蒂(Mira Murati)隨後被任命為臨時首席執行長,但她並沒有熱情地接受了這個角色。很快,OpenAI總裁格雷格·布羅克曼(Greg Brockman)在社群平台X上說:「我不幹了。」其他OpenAI員工也開始威脅著要辭職。

微軟的A、B、C三個計畫

在與納德拉的視訊通話中,微軟高層開始討論對奧特曼下台的可能回應。A計畫是試圖通過支持穆拉蒂來穩定局勢,然後與她合作,看看這家初創公司的董事會是否會改變決定,或者至少對其輕率的舉動進行解釋。

如果OpenAI董事會拒不遵從,微軟高層將實施B計畫:利用其巨大的影響力,包括承諾給OpenAI但尚未打款的數十億美元,幫助奧特曼重新擔任首席執行長並重塑OpenAI的治理結構,方法是更換董事會成員。

知情人士表示,在當時的會議中,微軟高層提到:「從我們的角度來看,事情一直進展得很好,而OpenAI的董事會做了一些不穩定的事情,所以我們想,‘讓一些成年人來負責,回到我們所擁有的一切。’」

如果以上兩個計畫都失敗,C計畫將是微軟聘用奧特曼及其最有天賦的同事,在微軟內部重新建立OpenAI。在這種情況下,這家軟體巨頭將擁有所有出現的新技術,意味著它可以把這些技術出售給其他人——這可能會狠狠賺上一筆。

參與視訊通話中的團隊認為,這三個計畫都很有力。但是微軟的目的還是讓一切恢復正常。這種策略背後的信念是,微軟已經搞清楚了開發負責任人工智慧所需的方法、安全保障和框架中的一些重要內容。無論奧特曼發生了什麼,公司都在根據自己的藍圖推進人工智慧的普及。 

A計畫

納德拉得知奧特曼被解僱的消息並召集斯科特和其他高層召開視訊會議後不久,微軟開始執行A計畫:支援穆拉蒂擔任臨時首席執行長以穩定局勢,同時試圖查明董事會為何如此衝動。

納德拉已經批准發佈一份聲明,強調“在我們將人工智慧的下一個時代帶給我們的客戶時,微軟仍然致力於米拉和他們的團隊”,並在他的個人X和LinkedIn帳戶上表達了同樣的觀點。他與穆拉蒂保持著頻繁的聯絡,以便及時瞭解她從董事會掌握的資訊。

答案是:不多。

在奧特曼被解僱的前一天晚上,董事會通知了穆拉蒂他們的決定,並得到了她保持沉默的承諾。他們認為她的同意意味著她支援解僱奧特曼,或者至少不會反對董事會,他們還認為其他員工也會同意。他們錯了。在內部,穆拉蒂和其他OpenAI高層表達了他們的不滿,一些員工認為董事會的行動是一次政變。OpenAI的員工向董事會成員提出尖銳的問題,但董事會幾乎沒有回應。兩名熟悉董事會想法的人士表示,出於保密的考慮,董事會成員感到必須保持沉默。此外,隨著奧特曼下台成為全球新聞,董事會成員感到不知所措,“與任何人接觸的管道有限,包括微軟。”

奧特曼被解僱的第二天,OpenAI的首席營運長布拉德·萊特卡普(Brad Lightcap)傳送了一份全公司備忘錄,稱他瞭解到“董事會的決定不是為了應對瀆職或任何與我們的財務、業務、安全或安全/隱私實踐相關的事情。”他接著說,“這是山姆和董事會之間溝通的中斷。”

但是,每當有人要求奧特曼舉例說明他沒有像董事會最初抱怨的那樣“在溝通中一貫坦誠”,董事會成員都保持沉默,甚至拒絕提及奧特曼反對托勒的運動。

在微軟內部,整個事件看起來愚蠢得令人難以置信。

據報導,到目前為止,OpenAI價值約800億美元。該公司的一位高層表示:“除非OpenAI董事會的目標是毀滅整個公司,否則他們似乎總是莫名其妙地在每次做決定時做出最糟糕的選擇。”即使其他OpenAI員工在總裁布羅克曼的帶領下公開辭職,董事會仍然保持沉默。

B計畫

A計畫顯然失敗了。因此,微軟的高層們轉向了B計畫:納德拉開始與穆拉蒂協商,看是否有辦法恢復奧特曼的首席執行長職位。在此期間,板球世界盃正在進行,納德拉鍾愛的印度隊在決賽中對陣澳洲隊。納德拉偶爾會在社群平台X上發帖報告賽事的最新進展,希望緩解緊張的氛圍,但他的許多同事不知道他在說什麼。

OpenAI員工威脅要反抗。穆拉蒂和這家初創公司的其他人在微軟的支持下,開始敦促所有董事會成員辭職。

最終,他們中的一些人同意離開,只要他們認為替代者可以接受。他們表示,他們甚至可能對奧特曼的回歸持開放態度,只要他不是首席執行長,並且沒有獲得董事會席位。

到了感恩節前的那個週日,每個人都筋疲力盡了。OpenAI董事會邀請穆拉蒂單獨加入他們進行私人談話。他們告訴她,他們一直在秘密招聘一位新的首席執行長,並終於找到了願意接受這份工作的人。

C計畫

對穆拉蒂、OpenAI員工、微軟而言,他們只能抓住最後一根稻草,啟動C計畫。

週日晚上,納德拉正式邀請奧特曼和布羅克曼領導微軟內部的一個新的人工智慧研究實驗室,並提供他們想要的所有資源和儘可能多的自由。兩人都接受了。微軟開始為他們認為將加入該部門的數百名OpenAI員工準備辦公室。

穆拉蒂和她的同事們寫了一封公開信給OpenAI的董事會:“我們無法為那些缺乏能力、判斷力且不關心我們使命和員工的人工作或與他們合作。”該信件的作者承諾辭職並“加入新成立的微軟子公司”,除非所有現任董事會成員辭職並重新任命奧特曼和布羅克曼。幾個小時內,幾乎所有OpenAI員工都簽署了這封信。

C計畫以及OpenAI大規模離職的威脅足以讓董事會態度軟化。

感恩節前兩天,OpenAI宣佈奧特曼將重新擔任首席執行長。除德安吉洛外,所有董事會成員都將辭職,而更知名的人物——包括Facebook前高層、推特董事長佈雷特·泰勒(Bret Taylor),以及前財政部長、哈佛大學校長拉里·薩默斯(Larry Summers)——將出任董事。OpenAI的高層同意對所發生的事情進行獨立調查,包括奧特曼過去作為首席執行長的行為。

儘管C計畫最初看起來很誘人,但微軟高層後來得出的結論是,目前的情況是最好的結果。將OpenAI的員工轉移到微軟可能會導致成本高昂且浪費時間的訴訟,還可能引發政府調查。在新框架下,微軟獲得了OpenAI的無投票權的董事會觀察員席位,使其在不引起監管審查的情況下獲得了更大的影響力。

 

 

  • 延伸閱讀:OpenAI正式宣告Altman回任CEO,Altman談曾被視為「叛變首腦」Ilya Sutskever:希望他回來繼續工作
  • 延伸閱讀:OpenAI政變結束、微軟內部備忘錄曝光,外媒質疑微軟要讓Altman過來的「先進AI研究部門」是否真的存在?
  • 延伸閱讀:靠著微軟拉他一把,Altman打了一場可以寫入矽谷歷史的反擊戰