成人小说亚洲一区二区三区,亚洲国产精品一区二区三区,国产精品成人精品久久久,久久综合一区二区三区,精品无码av一区二区,国产一级a毛一级a看免费视频,欧洲uv免费在线区一二区,亚洲国产欧美中日韩成人综合视频,国产熟女一区二区三区五月婷小说,亚洲一区波多野结衣在线

首頁 500強(qiáng) 活動(dòng) 榜單 商業(yè) 科技 領(lǐng)導(dǎo)力 視頻 專題 品牌中心
雜志訂閱

谷歌承認(rèn)“竊取”OpenAI模型關(guān)鍵信息:成本低至150元

2024-03-13 13:00
文本設(shè)置
小號(hào)
默認(rèn)
大號(hào)
Plus(0條)
根據(jù)谷歌自己的說法,它不僅還原了OpenAI大模型的整個(gè)投影矩陣(projection matrix),還知道了確切隱藏維度大小。只要通過API訪問,不到2000次巧妙的查詢就搞定了。成本根據(jù)調(diào)用次數(shù)來看,最低20美元以內(nèi)(折合人民幣約150元)搞定,并且這種方法同樣適用于GPT-4。 | 相關(guān)閱讀(量子位)
54
東木

東木

執(zhí)大象 天下往

怎么能說“竊”?是“拿來”而已。

這次可以說是AI大模型的一次“兵棋推演”,谷歌通過一種簡單而高效的方法成功揭示OpenAI大型語言模型的關(guān)鍵信息。該方法利用API訪問模型,僅需少量的查詢即可獲取模型的投影矩陣和隱藏維度等關(guān)鍵信息。谷歌的目標(biāo)是模型的嵌入投影層,通過大量查詢和奇異值排序等技術(shù),他們能夠確定模型的隱藏維度大小,并且進(jìn)一步揭示了模型的參數(shù)量和全局性信息。這次谷歌展示了對(duì)于生成式模型,尤其是像GPT-4、PaLM2這樣的模型,即便在提供了logprobs或logit bias的情況下,其安全性也存在漏洞。

雖然這次“拿來”的成本相對(duì)較低,但這一實(shí)驗(yàn)為整個(gè)大模型領(lǐng)域的安全性敲響了警鐘。作為回應(yīng),研究團(tuán)隊(duì)提出了一些防御措施,包括從API和模型架構(gòu)兩個(gè)層面進(jìn)行修改,以增強(qiáng)模型的安全性。尤其是在研究團(tuán)隊(duì)在提取模型信息之前得到了OpenAI的同意,并在攻擊完成后刪除了相關(guān)數(shù)據(jù),也算點(diǎn)到為止,友好切磋。

我覺得值得注意的是,盡管OpenAI對(duì)此做出了回應(yīng),但是谷歌這次的成功表明即使最大限度地保護(hù)模型也不一定是完全安全的。這提醒了整個(gè)行業(yè)需要持續(xù)關(guān)注模型安全性,并采取更加嚴(yán)密的措施來保護(hù)模型的關(guān)鍵信息不受損害。

評(píng)論

撰寫或查看更多評(píng)論

請(qǐng)打開財(cái)富Plus APP

前往打開
熱讀文章
国产av日韩aⅴ亚洲av| 亚洲综合色在线观看一区二区三区| 国产精品一区二区三区免费| 理论片国产在线播放免费| 久久国语露脸国产精品电影| 永久免费精品精品永久夜色| 人妻无码AⅤ在线一区二区视频| 亚洲AV永久无码精品三区在线| 377人体粉嫩噜噜噜| 国产又黄又粗又色又爽| 久久久久国产精品无套专区| 亚洲精品中文字幕无码蜜桃| 97一级毛片全部免费播放| 久久精品国产亚洲αv忘忧草| 免费无码av片在线观看中文| 影音先锋女人av鲁色资源网站| 国产乱妇无码大片在线观看| 欧美乱人伦中文在线观看不卡| 久久精品国产亚洲AV麻豆AⅤ| 国产日韩精品欧美一区灰灰| 久久国产成人午夜av影院| 蜜臀精品视频在线观看| 熟年交尾五十路视频在线播放| 国产揄拍国内精品对白| 欧美日韩不卡视频一区二区三区 | 必看无人区一码二码三码| 亚洲高清在不卡一区二区三区| 日本强好片久久久久久AAA| 国产一级毛片高清视频完整版| 国产a∨国片精品白丝美女视频| 国产精品991TV制片厂在线观看| 亚洲AV理论在线电影网| 一级特黄女人18毛片免费视频| 亚洲伊人色一综合网| 黑丝长腿国产在线观看| 天天摸天天日天天射| 亚洲香蕉在线色网视频| 亚洲Av中文无码乱人伦在线观看| 2021国产v亚洲v天堂无码| 观看A一级一区二区| 国产99视频精品专区|