成人小说亚洲一区二区三区,亚洲国产精品一区二区三区,国产精品成人精品久久久,久久综合一区二区三区,精品无码av一区二区,国产一级a毛一级a看免费视频,欧洲uv免费在线区一二区,亚洲国产欧美中日韩成人综合视频,国产熟女一区二区三区五月婷小说,亚洲一区波多野结衣在线

首頁 500強(qiáng) 活動(dòng) 榜單 商業(yè) 科技 商潮 專題 品牌中心
雜志訂閱

偽造視頻危害有多大?這位首席安全官拿本公司CEO作示范

Jenn Brice
2024-12-16

深度偽造技術(shù)對企業(yè)聲譽(yù)構(gòu)成了真正威脅,可能會(huì)削弱人們對領(lǐng)導(dǎo)層的信任。

文本設(shè)置
小號(hào)
默認(rèn)
大號(hào)
Plus(0條)

Qualtrics首席安全官阿薩夫·克倫(Assaf Keren)期望同事們能更深刻地認(rèn)識(shí)到深度偽造技術(shù)的質(zhì)量正不斷提升,其危險(xiǎn)性日益加劇。為此,他制作了一段視頻,在該視頻中,公司首席執(zhí)行官被塑造成一個(gè)從未來穿越而來的邪惡人工智能角色,警告員工視頻和語音模仿的威脅迫在眉睫。

他僅花費(fèi)20美元便完成了這項(xiàng)實(shí)驗(yàn)。在上周于舊金山舉辦的《財(cái)富》人工智能頭腦風(fēng)暴大會(huì)上,克倫表示:“這并非因?yàn)槲覠o法免費(fèi)完成這項(xiàng)實(shí)驗(yàn),而是因?yàn)槲彝祽??!?/p>

他承認(rèn),在線調(diào)查提供商Qualtrics可能不是網(wǎng)絡(luò)攻擊的主要目標(biāo),而像他的前雇主貝寶(PayPal)這樣的知名金融公司則可能成為攻擊目標(biāo)。益博睿集團(tuán)(Experian)的首席創(chuàng)新官凱瑟琳·彼得斯(Kathleen Peters)指出,她確實(shí)認(rèn)為深度偽造技術(shù)對企業(yè)聲譽(yù)構(gòu)成了真正威脅,可能會(huì)削弱人們對領(lǐng)導(dǎo)層的信任。

如今,克隆首席執(zhí)行官和普通人的視頻和語音已司空見慣??藗愓f:"我們經(jīng)常在現(xiàn)實(shí)生活中看到這種情況?!痹谝粋€(gè)例子中,攻擊者利用未經(jīng)確認(rèn)公司的財(cái)報(bào)電話會(huì)議記錄來訓(xùn)練人工智能,進(jìn)而對該公司的財(cái)務(wù)人員實(shí)施網(wǎng)絡(luò)釣魚攻擊,這樣就可以更準(zhǔn)確地模仿高管的講話方式。

克倫提到,兩年前的情形與現(xiàn)在大不相同。他回憶道,當(dāng)時(shí)人們對于深度偽造技術(shù)的討論還停留在:“技術(shù)上雖然能夠?qū)崿F(xiàn)這一點(diǎn),但我們在現(xiàn)實(shí)生活中還未發(fā)現(xiàn)實(shí)例?!?/p>

克倫補(bǔ)充說:“這是一種持續(xù)演進(jìn)中的攻擊手段,”只是黑客工具箱中眾多人工智能工具之一。

安全軟件公司Okta的客戶身份云業(yè)務(wù)總裁希夫·拉姆吉(Shiv Ramji)預(yù)測,在不久的將來,人類將難以區(qū)分深度偽造內(nèi)容與真實(shí)內(nèi)容。而且,機(jī)器將比人類更擅于發(fā)現(xiàn)偽造內(nèi)容。

盡管不受控制的人工智能會(huì)帶來風(fēng)險(xiǎn),但信息安全領(lǐng)域的領(lǐng)導(dǎo)者仍希望員工嘗試新技術(shù),但在嘗試的過程中需要保持謹(jǐn)慎。

彼得斯建議公司成立風(fēng)險(xiǎn)委員會(huì),或由擁有安全措施執(zhí)行權(quán)限的高管組成的小組,以促使領(lǐng)導(dǎo)層在考慮收入增長的同時(shí),給予安全問題同等重視。

拉姆吉指出,隨著部分企業(yè)開始使用人工智能代理來替代人類員工執(zhí)行工作任務(wù),團(tuán)隊(duì)?wèi)?yīng)考慮授權(quán)這些代理處理的數(shù)據(jù)和任務(wù)范疇。他說,人類仍應(yīng)在整個(gè)流程中驗(yàn)證代理的活動(dòng),并且預(yù)見到未來代理之間的互動(dòng)將呈現(xiàn)“爆炸式”的增長態(tài)勢。

拉姆吉說:“這是機(jī)器與機(jī)器之間的對話,它們將全年不間斷地進(jìn)行這樣的交流,且不受人類輸入模式和交互模式的限制。"(財(cái)富中文網(wǎng))

譯者:中慧言-王芳

Qualtrics首席安全官阿薩夫·克倫(Assaf Keren)期望同事們能更深刻地認(rèn)識(shí)到深度偽造技術(shù)的質(zhì)量正不斷提升,其危險(xiǎn)性日益加劇。為此,他制作了一段視頻,在該視頻中,公司首席執(zhí)行官被塑造成一個(gè)從未來穿越而來的邪惡人工智能角色,警告員工視頻和語音模仿的威脅迫在眉睫。

他僅花費(fèi)20美元便完成了這項(xiàng)實(shí)驗(yàn)。在上周于舊金山舉辦的《財(cái)富》人工智能頭腦風(fēng)暴大會(huì)上,克倫表示:“這并非因?yàn)槲覠o法免費(fèi)完成這項(xiàng)實(shí)驗(yàn),而是因?yàn)槲彝祽小!?/p>

他承認(rèn),在線調(diào)查提供商Qualtrics可能不是網(wǎng)絡(luò)攻擊的主要目標(biāo),而像他的前雇主貝寶(PayPal)這樣的知名金融公司則可能成為攻擊目標(biāo)。益博睿集團(tuán)(Experian)的首席創(chuàng)新官凱瑟琳·彼得斯(Kathleen Peters)指出,她確實(shí)認(rèn)為深度偽造技術(shù)對企業(yè)聲譽(yù)構(gòu)成了真正威脅,可能會(huì)削弱人們對領(lǐng)導(dǎo)層的信任。

如今,克隆首席執(zhí)行官和普通人的視頻和語音已司空見慣??藗愓f:"我們經(jīng)常在現(xiàn)實(shí)生活中看到這種情況?!痹谝粋€(gè)例子中,攻擊者利用未經(jīng)確認(rèn)公司的財(cái)報(bào)電話會(huì)議記錄來訓(xùn)練人工智能,進(jìn)而對該公司的財(cái)務(wù)人員實(shí)施網(wǎng)絡(luò)釣魚攻擊,這樣就可以更準(zhǔn)確地模仿高管的講話方式。

克倫提到,兩年前的情形與現(xiàn)在大不相同。他回憶道,當(dāng)時(shí)人們對于深度偽造技術(shù)的討論還停留在:“技術(shù)上雖然能夠?qū)崿F(xiàn)這一點(diǎn),但我們在現(xiàn)實(shí)生活中還未發(fā)現(xiàn)實(shí)例?!?/p>

克倫補(bǔ)充說:“這是一種持續(xù)演進(jìn)中的攻擊手段,”只是黑客工具箱中眾多人工智能工具之一。

安全軟件公司Okta的客戶身份云業(yè)務(wù)總裁希夫·拉姆吉(Shiv Ramji)預(yù)測,在不久的將來,人類將難以區(qū)分深度偽造內(nèi)容與真實(shí)內(nèi)容。而且,機(jī)器將比人類更擅于發(fā)現(xiàn)偽造內(nèi)容。

盡管不受控制的人工智能會(huì)帶來風(fēng)險(xiǎn),但信息安全領(lǐng)域的領(lǐng)導(dǎo)者仍希望員工嘗試新技術(shù),但在嘗試的過程中需要保持謹(jǐn)慎。

彼得斯建議公司成立風(fēng)險(xiǎn)委員會(huì),或由擁有安全措施執(zhí)行權(quán)限的高管組成的小組,以促使領(lǐng)導(dǎo)層在考慮收入增長的同時(shí),給予安全問題同等重視。

拉姆吉指出,隨著部分企業(yè)開始使用人工智能代理來替代人類員工執(zhí)行工作任務(wù),團(tuán)隊(duì)?wèi)?yīng)考慮授權(quán)這些代理處理的數(shù)據(jù)和任務(wù)范疇。他說,人類仍應(yīng)在整個(gè)流程中驗(yàn)證代理的活動(dòng),并且預(yù)見到未來代理之間的互動(dòng)將呈現(xiàn)“爆炸式”的增長態(tài)勢。

拉姆吉說:“這是機(jī)器與機(jī)器之間的對話,它們將全年不間斷地進(jìn)行這樣的交流,且不受人類輸入模式和交互模式的限制。"(財(cái)富中文網(wǎng))

譯者:中慧言-王芳

Qualtrics chief security officer Assaf Keren wanted to make his colleagues more aware of the increasing quality and dangers of deepfakes. So he created a video that showed the company’s CEO as an evil AI persona who was sent from the future to warn workers about the looming threat of video and voice impersonations.

He spent just $20 on the experiment. “Because I was lazy, not because I couldn’t do it for free,” Keren said at Fortune’s Brainstorm AI in San Francisco this week.

He acknowledged that Qualtrics, a provider of online surveys, might not be a prime target for cyberattacks. But high-profile finance companies like his former employer, PayPal, might be. And Experian’s chief innovation officer, Kathleen Peters, said she does think of deepfakes as a real risk to corporate reputations that can erode trust in leaders.

Today, video and voice clones of CEOs and regular people alike are common. “We’re seeing it in the wild all the time,” Keren said. In one example, the threat actor trained AI on transcripts of an unidentified company’s earnings calls to create a phishing attack targeting that organization’s finance employees, so that it would more accurately mimic how an executive speaks, he said.

Two years ago that wasn’t necessarily the case, Keren said. Back then, he recalled, the conversation about deepfakes was, “the technology can do this, but we’re not seeing it in the wild.”

“It’s an evolving attack vector,” Keren added, and just one of various AI-powered tools in a hackers’ toolbox.

Shiv Ramji, president of customer identity cloud at the security software company Okta, predicted that it won’t be long before humans are unable to distinguish deepfakes from authentic content. And machines will be better than humans at detecting the inauthentic stuff.

While unchecked AI is a risk, information security leaders still want their workers to experiment with new technology—but with caution.

Peters suggests that companies set up a risk council, or a group of senior executives with authority to enforce safety measures, that can push leadership to think about security just as much as they do about growing revenue.

And as some organizations start to play with agentic AI that carries out tasks on behalf of human workers, Ramji said teams should think about the data and tasks that those agents are authorized for. A human should still be in the loop to verify the agent’s activities, he said, foreseeing an “explosion” of inter-agent interactions.

“It’s machines talking to themselves, and they’ll be doing this 24/7, all year. They’re not limited by the human input model, interaction model,” Ramji said.

財(cái)富中文網(wǎng)所刊載內(nèi)容之知識(shí)產(chǎn)權(quán)為財(cái)富媒體知識(shí)產(chǎn)權(quán)有限公司及/或相關(guān)權(quán)利人專屬所有或持有。未經(jīng)許可,禁止進(jìn)行轉(zhuǎn)載、摘編、復(fù)制及建立鏡像等任何使用。
0條Plus
精彩評論
評論

撰寫或查看更多評論

請打開財(cái)富Plus APP

前往打開
熱讀文章
欧美日韩专区国产精品| 四虎影视成人永久免费观看视频| 99久久精品免费看国产99| 国产av无码专区亚洲a| 玩弄人妻少妇500系列网址| 精品国产一区二区三区不卡| 少妇大胆瓣开下部自慰| 一本色道久久88—综合亚洲精品| 人妻丰满熟妇岳AV无码区HD| 亚洲国产视频无码在线观看| 人人做人人爽人人爱| 国产精品女人精品久久久天天| 香蕉久久AⅤ一区二区三区| 在线播放真实国产乱子伦| 国产精品成人片在线| 精品国产自在在线午夜| 君岛美绪暴雨夜中文字幕| 熟妇女人妻丰满少妇中文字幕| 性欧美VIDEOFREE高清| 成人精品一区二区户外勾搭野战| 久久久久成亚洲国产av| 久久国产热这里只有精品| 人妻中出受孕 中文字幕在线| 一级a性色生活片久久无少妇一级婬片免费放| 一本色道久久综合精品| 午夜精品久久久久久99热| 亚洲熟女乱综合一区二区| 成年女人免费视频播放体验区| 国产精品无码无卡毛片不卡视| 欧美激情一区二区三区在线| 亚洲乱码精品久久久久| 国产成人麻豆精品午夜福利在线| 麻豆映画传媒新剧免费观看| 成人年无码AV片在线观看| 国产精品高潮呻吟久久AV| 精品久久久无码人妻| 亚洲中文久久久久久精品国产| 久久久精品日本一区二区三区| 无码国产精品视频一区二区,| 少妇人妻综合久久中文字幕| 国产一级a片特爽高潮视频|