ChatGPT身后的女人

米拉·穆拉蒂在ChatGPT的問世上扮演著重要角色，同時每當(dāng)ChatGPT引發(fā)熱議時，又總是她站出來向公眾進(jìn)行解釋。圖片來源：CHRISTIE HEMM KLOK

當(dāng)我們來到位于美國加利福尼亞州舊金山的OpenAI公司總部的一間會議室，準(zhǔn)備對該公司的首席技術(shù)官米拉·穆拉蒂（Mira Murati）進(jìn)行采訪時，原本在這里的另外一位OpenAI的高管、性格內(nèi)向的人工智能革命領(lǐng)域內(nèi)的代表人物從另一間房間里急匆匆地進(jìn)來收拾好了他的東西——一臺筆記本電腦，然后悄悄地給我們騰出了地方。他就是這家公司的創(chuàng)始人及首席執(zhí)行官薩姆·奧爾特曼（Sam Altman）。

在公眾面前，奧爾特曼才是最經(jīng)常露面代表公司形象的人。實(shí)際上，就在我們采訪當(dāng)天，他剛剛從美國華盛頓特區(qū)飛回來，而他此行就是去與美國國會談人工智能技術(shù)的監(jiān)管問題的。相比之下，穆拉蒂的名字不大被人們所知，但她對OpenAI的飛速發(fā)展同樣至關(guān)重要。今年34歲的穆拉蒂主要負(fù)責(zé)該公司的兩款產(chǎn)品：其一是最近大熱的聊天機(jī)器人ChatGPT，其二是一款名叫DALL-E的人工智能系統(tǒng)，它能夠利用文本來創(chuàng)作藝術(shù)作品。八年前剛剛成立時的OpenAI還是一個名不見經(jīng)傳的、非營利性的研究實(shí)驗室，而正是這兩款工具將它推向了一個令所有人都意想不到的高度。

在ChatGPT于2022年11月推出后，短短兩個月內(nèi)就擁有了超過1億人的月活躍用戶，成為史上增速最快的消費(fèi)性應(yīng)用程序。隨著這些產(chǎn)品持續(xù)更新迭代，有時它們也會出現(xiàn)一些尷尬的、甚至是令人不安的小問題，每次都會把公眾搞得緊張兮兮，這時就需要由穆拉蒂出來向似乎對每一個突破和失誤都非常熟悉的大家解釋了。

確實(shí)，憑借著ChatGPT這款跨時代的應(yīng)用程序，OpenAI可以說是憑借一己之力引領(lǐng)了人工智能技術(shù)的最新發(fā)展方向——也就是所謂的“生成式人工智能”。這些關(guān)注也轉(zhuǎn)化成了真金白銀。雖然在最近幾個月，ChatGPT的用戶增速有所放緩，但企業(yè)客戶的數(shù)量卻在飛速增長。據(jù)報道，今年OpenAI有望獲得超過10億美元的收入。（這將是一個巨大的飛躍，今年早些時候OpenAI的一份融資文件顯示，該公司在2022年的收入還不到3,000萬美元。）另外，OpenAI還與軟件巨頭微軟（Microsoft）開展了合作（這也是穆拉蒂負(fù)責(zé)的工作之一），這也為它的產(chǎn)品帶來了很多新的銷售，更不用說它還拿到了一筆100億美元的投資。

穆拉蒂穿著一件T恤衫和牛仔褲接受了我們的采訪，她的著裝就像OpenAI公司的辦公室的裝修風(fēng)格一樣簡約大方，但當(dāng)你和她交談時，你很快就會發(fā)現(xiàn)她內(nèi)心的強(qiáng)大。她在回答問題時的語速緩慢且深思熟慮，但語氣又顯得輕松熱情——這或許是這份工作塑造了她的思維習(xí)慣。畢竟她說，她不光要花費(fèi)時間來思考ChatGPT的最新功能，還要深入思考人工智能是否會帶來人類文明的終結(jié)。

穆拉蒂于2018年加入OpenAI，此前她曾經(jīng)在特斯拉（Tesla）工作過一段時間。但她的成長經(jīng)歷在精英云集的硅谷（Silicon Valley）里顯然屬于異類。她的童年是在祖國阿爾巴尼亞度過的，她的成長歷程恰好與位于巴爾干半島（Balkan Peninsula）上的這個國家的民主化改革進(jìn)程相重合。阿爾巴尼亞的體制轉(zhuǎn)型是十分突然的，也是十分混亂的，不過穆拉蒂還是把自己身上的一項特質(zhì)歸功于阿爾巴尼亞的舊政權(quán)——在那個一切強(qiáng)調(diào)平均主義的社會里，人們對知識的渴望卻是十分強(qiáng)烈的。雖然當(dāng)時阿爾巴尼亞的網(wǎng)速還很慢，但她已經(jīng)在試圖尋找很多問題的答案（包括人腦是如何運(yùn)作的），并想方設(shè)法運(yùn)用科技解決生活中的問題。在她16歲時，穆拉蒂獲得了一筆獎學(xué)金，離開祖國前往加拿大溫哥華的一所國際學(xué)校就讀。后來，她在達(dá)特茅斯學(xué)院（Dartmouth College）獲得了工程學(xué)學(xué)位，隨后前往舊金山，擔(dān)任特斯拉的Model X車型的高級產(chǎn)品經(jīng)理。

穆拉蒂一直對培養(yǎng)更高級的智能感興趣。最初吸引她加入OpenAI的原因之一，就是該公司相信它能夠?qū)崿F(xiàn)通用型人工智能技術(shù)——這是一個富有科幻色彩的概念，即計算機(jī)可以像人類一樣理解、學(xué)習(xí)和思考事物。穆拉蒂也相信通用型人工智能是能夠?qū)崿F(xiàn)的，她在更廣泛的人工智能領(lǐng)域里也是一位樂觀主義者（這不足為奇）。但與此同時，她對人工智能當(dāng)前和未來可能造成的一些現(xiàn)實(shí)風(fēng)險也有著清醒的認(rèn)識。

在奧爾特曼離開會議室后，我們對穆拉蒂進(jìn)行了采訪，進(jìn)一步了解了她加入OpenAI的過程，以及隨著OpenAI的產(chǎn)品逐步普及，該公司必須解決哪些問題和挑戰(zhàn)。此外，我們還談到了最新版本的DALL-E，以及ChatGPT的最新功能——它將首次包含語音指令功能，這可能會進(jìn)一步提高新一代生成式人工智能產(chǎn)品的易用性，從而繼續(xù)擴(kuò)大它（及制造商）的普及度。

為簡明起見，以下采訪內(nèi)容經(jīng)過編輯。

?

你認(rèn)為DALL-E的最佳使用場景是什么？特別是這個新版本。（即DALL-E 3，它與ChatGPT進(jìn)行了集成，便于用戶創(chuàng)建指令語。）

目前它還在研發(fā)預(yù)覽狀態(tài)，所以我們還沒有看到人們將如何更廣泛地使用它。而且從一開始，我們非常關(guān)注的就是那些有可能出現(xiàn)問題的地方。

不過在使用場景上，我認(rèn)為它可以有一些創(chuàng)造性的應(yīng)用。例如你能夠生成一些真正非常個性化的東西——比如你的孩子非常喜歡青蛙，你想為他編一個關(guān)于青蛙的故事，那么它就可以為這個故事實(shí)時貢獻(xiàn)一些內(nèi)容。所以，它有很多的創(chuàng)意和共創(chuàng)的空間。其次，我認(rèn)為在職場環(huán)境下，它能夠讓理念的設(shè)計變得更加容易，讓任何東西的早期構(gòu)建和更新迭代都變得更快。

?

你還有哪些其他的產(chǎn)品新聞？可以給我們介紹一下其中的主要亮點(diǎn)嗎？

總的來說，過去兩年我們一直在談?wù)撏ㄓ眯腿斯ぶ悄埽@也是我們的目標(biāo)，我們希望能夠找到一種方法，讓通用型人工智能造福人類，而且我們也正在沿著這個思路進(jìn)行構(gòu)建。要達(dá)到這一點(diǎn)，你必須要讓這些模型對世界具有強(qiáng)大的概念，而且必須要通過文本、圖像、聲音和其他各種不同的模型體現(xiàn)出來。

而我們需要做的，就是把所有的這些模型放在一起，也就是放在ChatGPT里。另外，我們將把DALL-E 3與ChatGPT進(jìn)行集成，我預(yù)感這將是一件大事情，而且它將具有很好的交互體驗。另外，我們還加入了語音指令功能，現(xiàn)在你將可以實(shí)時與ChatGPT進(jìn)行交談?，F(xiàn)在我還不打算做演示，但是你能夠跟它說話……

?

（穆拉蒂拿起她的手機(jī)，打開ChatGPT，通過語音指令，讓ChatGPT“告訴她一件有趣的事情”。ChatGPT回答道：“你知道蜂蜜永遠(yuǎn)不會變質(zhì)嗎？”）

?

所以你還是做了一個演示。

展示要比描述容易得多。所以我們的重點(diǎn)是，讓大家可以用一種非常自然的方式與這種技術(shù)進(jìn)行交互。

?

讓我們回到主題：大家不僅對產(chǎn)品感興趣，也對產(chǎn)品背后的人感興趣。你認(rèn)為對你影響最大的經(jīng)歷是什么？它如何塑造了今天的你？

當(dāng)然是在阿爾巴尼亞的成長經(jīng)歷。另外，我最早是研究航空航天的，而且我在特斯拉工作的經(jīng)歷對我而言也十分重要，我在那里經(jīng)歷了一輛整車從設(shè)計到投放的全過程。還有就是加入OpenAI。在我剛來的時候，公司只有四五十人，基本上只是一個研究實(shí)驗室，而現(xiàn)在我們已經(jīng)是一家成熟的產(chǎn)品公司，擁有上億的用戶和大量的技術(shù)人員。（OpenAI現(xiàn)在有大約500名員工。）

?

你是怎樣認(rèn)識薩姆·奧爾特曼的？還有你第一次來OpenAI的情形是什么樣的？

我之前就在特斯拉從事人工智能應(yīng)用方面的工作，但是我對通用型人工智能更加感興趣。當(dāng)時我并不能夠確定通用型人工智能是否真的會到來，但我知道，即便我們距離成功已經(jīng)很近了，我們在實(shí)現(xiàn)它的過程中創(chuàng)造出來的東西也將是非常厲害的，那甚至可能是人類有史以來發(fā)明的最重要的技術(shù)。而我想成為這個過程中的一員。因此，加入OpenAI就成了一個自然而然的選擇，因為當(dāng)時只有OpenAI和[谷歌（Google）旗下的]DeepMind在做這項事業(yè)。OpenAI的使命讓我很有共鳴，那就是打造一種造福人類的技術(shù)。在我加入的時候，OpenAI還是一家非營利機(jī)構(gòu)。從那以后，我們也不得不走上了轉(zhuǎn)型的道路——因為這些超級計算機(jī)是很貴的。（2019年，OpenAI轉(zhuǎn)型為一家營利性公司，不過它仍然由一個非營利性的董事會管理。）

我記得當(dāng)時我見到了格雷格·布羅克曼（Greg Brockman）、伊利亞·蘇茨克維爾（Ilya Sutskever）和沃伊切赫·扎倫巴（Wojciech Zaremba），然后就是薩姆。我確定他們就是我想合作的人。

?

讓我們回到ChatGPT首次發(fā)布的時候。你有沒有想過它會達(dá)到今天的規(guī)模，并且會給你的團(tuán)隊帶來這么多的關(guān)注？

沒有。雖然我們也認(rèn)為這是一件大事情，并且為此做了很多的準(zhǔn)備，但是發(fā)布會后僅僅過了幾個小時，所有的準(zhǔn)備就都變得跟不上變化了。我們必須迅速適應(yīng)變化，同時改變我們的運(yùn)營模式，但我認(rèn)為這才是我們所做的一切的關(guān)鍵，因為技術(shù)進(jìn)步的速度是非?？斓?。

對ChatGPT來說，更是如此。因為我們之前已經(jīng)在內(nèi)部使用它了，所以我們對它的功能已經(jīng)見怪不怪了，我們當(dāng)時甚至已經(jīng)在使用GPT-4了，所以我們沒有預(yù)料到外界會對它產(chǎn)生這么大的恐慌。

?

另外一件事情是，ChatGPT的發(fā)布也引發(fā)了一場“軍備競賽”。首當(dāng)其沖的是谷歌，同時也有很多其他競爭對手。這對你們有何影響？

我認(rèn)為這種競爭有可能會帶來安全上的隱患。當(dāng)然，這是不利的一面。

?

這是非常不利的一面。

是的。我們每個人都應(yīng)該扛住壓力，不為了競爭而在安全問題上退讓。我認(rèn)為OpenAI有不那樣做的動機(jī)。但同時我認(rèn)為，有競爭也是一件好事情，因為它可以推動進(jìn)步。競爭能夠讓人們更有可能得到他們喜歡的東西。我不認(rèn)為競爭本身是壞事情。但如果人人都以競爭為唯一的動力，而忽視了其中的風(fēng)險和利害，那就將是一個巨大的問題。

?

隨著競爭不斷加劇，而你的投資者也期待著回報，你是否有信心OpenAI可以扛住所有這些壓力？

我對我們的動機(jī)和產(chǎn)品設(shè)計充滿了信心，對我們的合作伙伴和大家的做事方法也同樣很有信心，因為大家的目標(biāo)是非常一致的。至于說對哪些方面不太有信心，那就是提前預(yù)測某些風(fēng)險的能力。畢竟你需要規(guī)范化地操作這些事情，它們也不可能只是政策和想法。

?

你如何確保在產(chǎn)品的每次迭代時都考慮到這一點(diǎn)？當(dāng)你們發(fā)生了一些最糟糕的情形時，大家會怎么說？

首先要從內(nèi)部團(tuán)隊開始。在我們做出原型產(chǎn)品之前，我們需要仔細(xì)思考我們所使用的數(shù)據(jù)，確保我們對各個方面都感到滿意。這是一個非常重復(fù)性的循環(huán)，我們也在這個過程中學(xué)習(xí)，并且在這個基礎(chǔ)上迭代。

一旦我們有了一個原型產(chǎn)品，我們要做的第一件事情就是內(nèi)部測試，然后我們要在我們擔(dān)心的特定領(lǐng)域安排一個“紅隊”（即尋找漏洞的專家）。例如，如果我們看到這個模型非常擅長制作逼真的人臉，那么我們就會安排“紅隊”對它進(jìn)行測試，看看這個模型能夠用來做哪些壞事，濫用它和由此產(chǎn)生的有害偏見是什么樣子的？然后基于這些發(fā)現(xiàn)去做一些針對性的防范措施。每次進(jìn)行干預(yù)時，我們都會對輸出結(jié)果進(jìn)行審查，因為我們要確保某種平衡——我們也不能讓這個產(chǎn)品完全無用，或者用起來效果非常差強(qiáng)人意?？傊?，如何在好用和安全之間達(dá)到平衡，這是一個非常困難的問題。

以現(xiàn)在的DALL-E 3為例，如果用戶的指令詞中有關(guān)于塑造人臉的內(nèi)容，而且被我們定義為具有敏感特征，那么模型就會拒絕請求。但實(shí)際上，你也不想拒絕用戶做一些無傷大雅的事情。因此，我們必須把握好這中間的細(xì)微區(qū)別，但你總是要有一條紅線的，所以目前我們選擇了一個較為保守和不太寬容的做法，因為它畢竟還是一項新技術(shù)。等到我們進(jìn)一步了解了這個模型在做什么，并且從“紅隊”那里獲得了更多的見解時，我們就可以更加細(xì)致地制定政策或者使用場景，并且對技術(shù)的應(yīng)用持更加寬容的態(tài)度。這也是所有新技術(shù)的發(fā)展趨勢。

?

我知道你們此刻也遭遇到了一些版權(quán)方面的挑戰(zhàn)。（近幾個月，一些作家和內(nèi)容創(chuàng)作者起訴OpenAI，稱該公司在未經(jīng)同意或者給予賠償?shù)那闆r下使用他們的作品訓(xùn)練其模型。）而人工智能模型是需要大量訓(xùn)練的，你是否認(rèn)為版權(quán)問題從長期看來會對你們造成威脅？

目前，我們已經(jīng)與出版機(jī)構(gòu)和內(nèi)容創(chuàng)作者進(jìn)行了大量的合作。我認(rèn)為歸根到底，人們是希望這項技術(shù)繼續(xù)發(fā)展，希望它有用，希望用它來改善我們的生活。而且我們也在試圖了解哪些東西有用。目前我們還處于這項技術(shù)的最前沿，我們必須做出一些非常困難的決定，我們也必須與人展開合作，以理解這項技術(shù)能夠做什么，它可以采用哪種收入分成模式，它的經(jīng)濟(jì)效益是什么樣子的。既然這是一項新的技術(shù)，那么為什么我們還要用與之前相同的政策和心態(tài)呢？所以我們正在努力解決這個問題，但目前我們還沒有一個解決方案。這可能會很復(fù)雜，但我們正在與出版商和內(nèi)容創(chuàng)作者合作，以了解下一步應(yīng)該怎么做。不過這是一個極其復(fù)雜的問題，而且未來還有很大的發(fā)展空間。我們今天所做的，可能只是數(shù)據(jù)共享和數(shù)據(jù)歸屬的經(jīng)濟(jì)模式研究的初級階段。如果說一個模型的新的行為模式產(chǎn)生出了很多的價值，那么我們現(xiàn)在就連如何衡量它都是一個問題。

?

在監(jiān)管方面，你說過你支持對人工智能的監(jiān)管，但你認(rèn)為人工智能監(jiān)管最重要的一些問題是什么？當(dāng)人工智能的魔力被釋放到世界上，你最擔(dān)心的事情又是什么？

我認(rèn)為人們現(xiàn)在能夠做的最重要的事情就是真正地理解它。但是展望未來，我們希望這些技術(shù)可以被進(jìn)一步整合，比如嵌入到我們的基礎(chǔ)設(shè)施中去——例如整合到我們的電力基礎(chǔ)設(shè)施里。到時你不僅需要解決技術(shù)方面的問題，還需要監(jiān)管框架。為了讓這個目標(biāo)最終實(shí)現(xiàn)，我們必須從某個地方開始討論監(jiān)管問題。

另一個問題也非常重要，那就是人工智能會不會具備我們所謂的“危險能力”。人工智能可能會有兩種濫用情形：一種是“正常的”濫用，另一種就是所謂人工智能的“叛變”。如果人工智能真的叛變了人類，我們應(yīng)該怎么想呢？因為這已經(jīng)脫離了人們?nèi)粘Ｊ褂玫姆懂?，這種技術(shù)對國際政治的影響可能比我們創(chuàng)造出來的任何東西都大。它的影響將不啻于核武器。所以我們必須通過監(jiān)管來解決這個問題。

?

我們看到，關(guān)于人工智能的未來，社會上出現(xiàn)了兩個陣營：一個非常理想化，另一個則認(rèn)為人工智能給人類帶來了生存威脅。你對人工智能未來的期望是什么？

我認(rèn)為它們都有可能。不過我是非常樂觀的，我相信我們能夠確保一切順利。但技術(shù)本身就具有兩種可能性，人工智能與我們創(chuàng)造的其他工具沒有什么區(qū)別，它也可能被濫用，還有可能觸發(fā)一些真正可怕的、甚至是災(zāi)難性的事件。人工智能的獨(dú)特之處還在于它確實(shí)有可能給人類的生存造成威脅，也就是導(dǎo)致人類文明的終結(jié)。雖然我認(rèn)為這種可能性很小，但確實(shí)存在這種可能性。因此這是一個非常值得思考的話題。

我們有一整個團(tuán)隊和大量算力是專門負(fù)責(zé)這個問題的，我們稱之為“超級校準(zhǔn)”（Super Alignment）項目，任務(wù)就是確保這些系統(tǒng)始終按照我們的價值觀來做事情。而這是一件很困難的事情。

譯者：Min