OpenAI 近期可謂風(fēng)波不斷。多位重要人員離職，如丹尼爾因拒絕簽署包含不貶損條款的文件而失去股權(quán)，這顯示出公司在某些規(guī)定上的強(qiáng)硬以及與員工之間的矛盾。他曾希望公司在 AI 安全研究方面加大投入?yún)s未得到回應(yīng)，這反映出公司在發(fā)展方向上可能存在一定的偏差。這些都可做為此次13位聯(lián)名公開(kāi)信的背景。無(wú)論公開(kāi)信背后的原因有多少，但對(duì)AI安全這一點(diǎn)，還是再一次引發(fā)社會(huì)關(guān)注。

其實(shí)關(guān)于AI安全性的討論，從AI研究開(kāi)始就一直沒(méi)間斷。去年10月下旬，圖靈獎(jiǎng)得主、“人工智能三巨頭”等學(xué)者爆發(fā)了一場(chǎng)關(guān)于人工智能管控的激烈爭(zhēng)論，24名中外人工智能科學(xué)家簽署一份聲明，呼吁對(duì)人工智能技術(shù)實(shí)施更嚴(yán)格的控制。關(guān)于AI安全問(wèn)題也是多次發(fā)生知名人士的聯(lián)名信，包括“ChatGPT 之父”Sam Altman 在內(nèi) 350 位 AI 權(quán)威都簽署的聯(lián)名公開(kāi)信，表達(dá)對(duì)當(dāng)前正在開(kāi)發(fā)的 AI 技術(shù)可能會(huì)對(duì)人類(lèi)構(gòu)成生存威脅擔(dān)憂。該聯(lián)名信已經(jīng)獲得了包括 2018 年圖靈獎(jiǎng)得主 Yoshua Bengio、馬斯克、史蒂夫 ? 沃茲尼亞克、Skype 聯(lián)合創(chuàng)始人、Pinterest 聯(lián)合創(chuàng)始人、Stability AI CEO 等多位知名人士的簽名支持，而且聯(lián)名的知名人士已經(jīng)超過(guò)千人。

各國(guó)政府和相關(guān)組織也不斷采取行動(dòng)，應(yīng)對(duì)AI安全。去年7月13日，國(guó)家網(wǎng)信辦聯(lián)合國(guó)家有關(guān)部門(mén)公布《生成式人工智能服務(wù)管理暫行辦法》，10月18日，發(fā)布《全球人工智能治理倡議》；10月30日，美國(guó)總統(tǒng)拜登正式發(fā)布《安全、可靠及可信賴的人工智能》行政命令；當(dāng)日，七國(guó)集團(tuán)（G7）發(fā)布《開(kāi)發(fā)先進(jìn)人工智能系統(tǒng)組織的國(guó)際行為準(zhǔn)則》。去年11月1日，首屆全球人工智能（AI）安全峰會(huì)上，28國(guó)聯(lián)署關(guān)于人工智能?chē)?guó)際治理的《布萊切利宣言》，鼓勵(lì)相關(guān)行為者采取適當(dāng)措施，如安全測(cè)試、評(píng)估等，以衡量、監(jiān)測(cè)和減輕AI潛在有害能力及其可能產(chǎn)生的影響。今年2月，美國(guó)商務(wù)部長(zhǎng)宣布成立人工智能安全研究聯(lián)盟（AISIC）。3月，一場(chǎng)關(guān)于人工智能安全的國(guó)際會(huì)議在北京隆重舉行。包括圖靈獎(jiǎng)得主約書(shū)亞?本吉奧、杰弗里?辛頓以及著名學(xué)者姚期智在內(nèi)的數(shù)十位中外專家齊聚一堂，共同簽署了由智源研究院發(fā)起的《北京AI安全國(guó)際共識(shí)》。

當(dāng)然也有另外的聲音，如Meta 公司的首席人工智能科學(xué)家Yann LeCun說(shuō)，對(duì)人工智能可能毀滅人類(lèi)的擔(dān)憂是 "荒謬的"，這種擔(dān)憂更多是基于科幻小說(shuō)而非現(xiàn)實(shí)，在他看來(lái)，智能機(jī)器根本沒(méi)有理由試圖與人類(lèi)競(jìng)爭(zhēng)。盡管說(shuō)法各異，但在 AI 快速發(fā)展的當(dāng)下，安全問(wèn)題至關(guān)重要。而 OpenAI 的這些問(wèn)題若不能妥善解決，不僅會(huì)影響自身的發(fā)展，也可能對(duì)整個(gè)行業(yè)產(chǎn)生負(fù)面影響。如何平衡創(chuàng)新與安全，協(xié)調(diào)內(nèi)部不同意見(jiàn)，將是 OpenAI 乃至整個(gè)行業(yè)需要深入思考和解決的問(wèn)題。