成人小说亚洲一区二区三区,亚洲国产精品一区二区三区,国产精品成人精品久久久,久久综合一区二区三区,精品无码av一区二区,国产一级a毛一级a看免费视频,欧洲uv免费在线区一二区,亚洲国产欧美中日韩成人综合视频,国产熟女一区二区三区五月婷小说,亚洲一区波多野结衣在线

首頁 500強(qiáng) 活動(dòng) 榜單 商業(yè) 科技 領(lǐng)導(dǎo)力 視頻 專題 品牌中心
雜志訂閱

谷歌承認(rèn)“竊取”OpenAI模型關(guān)鍵信息:成本低至150元

2024-03-13 13:00
文本設(shè)置
小號(hào)
默認(rèn)
大號(hào)
Plus(0條)
根據(jù)谷歌自己的說法,它不僅還原了OpenAI大模型的整個(gè)投影矩陣(projection matrix),還知道了確切隱藏維度大小。只要通過API訪問,不到2000次巧妙的查詢就搞定了。成本根據(jù)調(diào)用次數(shù)來看,最低20美元以內(nèi)(折合人民幣約150元)搞定,并且這種方法同樣適用于GPT-4。 | 相關(guān)閱讀(量子位)
54
東木

東木

執(zhí)大象 天下往

怎么能說“竊”?是“拿來”而已。

這次可以說是AI大模型的一次“兵棋推演”,谷歌通過一種簡單而高效的方法成功揭示OpenAI大型語言模型的關(guān)鍵信息。該方法利用API訪問模型,僅需少量的查詢即可獲取模型的投影矩陣和隱藏維度等關(guān)鍵信息。谷歌的目標(biāo)是模型的嵌入投影層,通過大量查詢和奇異值排序等技術(shù),他們能夠確定模型的隱藏維度大小,并且進(jìn)一步揭示了模型的參數(shù)量和全局性信息。這次谷歌展示了對(duì)于生成式模型,尤其是像GPT-4、PaLM2這樣的模型,即便在提供了logprobs或logit bias的情況下,其安全性也存在漏洞。

雖然這次“拿來”的成本相對(duì)較低,但這一實(shí)驗(yàn)為整個(gè)大模型領(lǐng)域的安全性敲響了警鐘。作為回應(yīng),研究團(tuán)隊(duì)提出了一些防御措施,包括從API和模型架構(gòu)兩個(gè)層面進(jìn)行修改,以增強(qiáng)模型的安全性。尤其是在研究團(tuán)隊(duì)在提取模型信息之前得到了OpenAI的同意,并在攻擊完成后刪除了相關(guān)數(shù)據(jù),也算點(diǎn)到為止,友好切磋。

我覺得值得注意的是,盡管OpenAI對(duì)此做出了回應(yīng),但是谷歌這次的成功表明即使最大限度地保護(hù)模型也不一定是完全安全的。這提醒了整個(gè)行業(yè)需要持續(xù)關(guān)注模型安全性,并采取更加嚴(yán)密的措施來保護(hù)模型的關(guān)鍵信息不受損害。

評(píng)論

撰寫或查看更多評(píng)論

請(qǐng)打開財(cái)富Plus APP

前往打開
熱讀文章
玩弄人妻少妇500系列视频| 国产仑乱老女人露脸的怀孕的| 国产国产人免费人成免费视频| 欧美日韩一区二区视频不卡| 亚洲AV无码专区一级婬片毛片| 高h禁伦餐桌上的肉伦| 欧美猛少妇色XXXXX猛叫| 人妻无码Αv中文字幕久久琪琪布| 最近免费中文字幕大全免费| 国产精品亚洲精品日韩已方| 国产日韩欧美久久精品| 婷婷色香合缴缴情av第三区| 国产日韩欧美综合色视频在线| 久久人人爽人人爽人人片AV麻烦| 东京热人妻欧美一区2区3区| 自拍偷自拍亚洲精品10P| 国产精品亚洲成在人线| 亚洲精品高清在线观看| 日本精品视频一区二区三区在线观看| 国产电影无码午夜在线播放| 免费最婬荡的毛片中文| 97久久超碰成人精品网页| 国产精品高潮呻吟久久AV无码| 激情小说强奸乱伦亚洲色图| 婷婷五月开心亚洲综合在线| 亚洲日韩欧美一区二区三区| 中文字幕一区二区三区久久| 久爱无码精品免费视频| 93精91精品国产综合久久香蕉| 国产成人精品久久亚洲高清不卡p| 国产成人欧美日韩在线电影| 国产最爽的乱婬视频国语对白| 国产乱色国产精品免费视频| 亚洲一区二区三区日本久久九| 亚洲av日韩av高潮潮喷无码| 亚洲乱码国产乱码精品精| 成人免费无码成人影院日韩| 中文字幕天天躁日日躁狠狠躁免费| 无码人妻一区二区三区精品视频| 国产69精品久久久久99尤物| 日本一本免费一区二区三区免|