1月31日，公安部網(wǎng)安局發(fā)文提醒公眾，注意防范合成聲音和AI換臉等人工智能新型手段詐騙,建議通過多重驗(yàn)證、保護(hù)信息和相互提示的方式避免上當(dāng)。

所謂合成聲音，是指騙子通過騷擾電話錄音等來提取某人聲音，獲取素材后進(jìn)行聲音合成，從而可以用偽造的聲音騙過對(duì)方。

據(jù)公安部網(wǎng)安局公布的案例，2020年12月，某公司財(cái)務(wù)小王接到領(lǐng)導(dǎo)電話，要求立刻給供應(yīng)商轉(zhuǎn)款2萬元，并將轉(zhuǎn)賬信息以郵件形式發(fā)送，轉(zhuǎn)款理由是避免繳納滯納金。由于老板的口音十分逼真，小王信以為真，在1小時(shí)內(nèi)轉(zhuǎn)款完成，后發(fā)現(xiàn)被騙。

澎湃新聞梳理發(fā)現(xiàn)，類似的案件也發(fā)生在國(guó)外。2019年9月，犯罪分子使用語音克隆軟件對(duì)英國(guó)一家能源公司高管的聲音進(jìn)行模仿。該公司的執(zhí)行董事在接聽詐騙電話后，將24萬美元匯入了一個(gè)匈牙利賬戶。目前，該罪犯仍未被抓獲。

2020年2月20日 ，互聯(lián)網(wǎng)安全專家公司Symantec報(bào)告了三起音頻詐騙案例，犯罪分子通過電話會(huì)議、YouTube、社交媒體以及TED演講獲得了公司高管的音頻，然后用機(jī)器學(xué)習(xí)技術(shù)復(fù)制高管的聲音，致電財(cái)務(wù)部門的高級(jí)成員要求緊急匯款。

比聲音合成更高級(jí)的騙術(shù)是AI換臉。

近年來，以“深度偽造”技術(shù)（Deepfake）為代表的AI換臉技術(shù)日益成熟。通過“深度偽造”技術(shù)，可以將圖片或視頻中A的臉換到B的頭上。其名字由深度機(jī)器學(xué)習(xí)（deep machine learning）和假照片（fake photo）組合而成。

2019年8月，一個(gè)名為“ZAO”的AI換臉APP一度爆紅，后因隱私、倫理等問題備受詬病。在“ZAO”APP中，用戶只需上傳一張自己的照片，就能將自己的臉替換到某位明星的頭上，而且臉融合效果非常棒。這款應(yīng)用強(qiáng)大的“換臉術(shù)”就是基于“深度偽造”技術(shù)。

目前，“深度偽造”技術(shù)正在被用于詐騙。騙子首先分析公眾發(fā)布在網(wǎng)上的各類信息，根據(jù)所要實(shí)施的騙術(shù)，通過AI技術(shù)篩選目標(biāo)人群。在視頻通話中利用AI換臉，騙取信任。

近日，南京警方接到小李報(bào)警稱，被詐騙3000元。小李介紹，大學(xué)同學(xué)通過QQ跟她借錢，對(duì)方打過來一段只有四五秒的視頻電話，小李看到確實(shí)是本人，便放心轉(zhuǎn)賬。她在第二次轉(zhuǎn)賬時(shí)發(fā)現(xiàn)異常，再次撥通對(duì)方電話才得知同學(xué)的帳號(hào)被盜。警方判斷，那段視頻很有可能被人換了臉。目前，警方已立案。

《科技日?qǐng)?bào)》此前援引安全分析公司Sensity的調(diào)查結(jié)果稱，自2018年12月以來，“深度偽造”技術(shù)在線造假視頻的數(shù)量大約每6個(gè)月翻一番，而截至2020年6月，造假視頻已經(jīng)多達(dá)49081個(gè)，比2019年7月增長(zhǎng)了330%。

公安部網(wǎng)安局提醒，面對(duì)AI換臉詐騙，“看眼睛”是識(shí)別假臉的方法之一。多數(shù)假臉都是使用睜眼照片合成，假臉極少甚至不會(huì)眨眼，缺少眨眼是判斷一個(gè)視頻真假的好方法。

辨識(shí)“深度偽造”換臉視頻的方法還包括語音和嘴唇運(yùn)動(dòng)的同步狀況、情緒不符合、模糊的痕跡、畫面停頓或變色。然而，專家指出，通過不斷的技術(shù)迭代，遲早會(huì)有人可以通過“深度偽造”技術(shù)制造出人類用肉眼無法識(shí)別的“假臉”。

面對(duì)日益強(qiáng)大的人工智能新型詐騙手段，公眾可以采取哪些防范方法？

公安部網(wǎng)安局提醒以下三點(diǎn)：

多重驗(yàn)證，確認(rèn)身份。目前，AI換臉難以肉眼區(qū)分。因此，在涉及錢款時(shí)，盡量通過電話詢問具體信息，確認(rèn)對(duì)方是否為本人。

保護(hù)信息，避免誘惑。加強(qiáng)個(gè)人信息保護(hù)意識(shí)，對(duì)于不明平臺(tái)發(fā)來的廣告、中獎(jiǎng)、交友等鏈接提高警惕，不隨意填寫個(gè)人信息，以免被騙子“精準(zhǔn)圍獵”。

相互提示，共同預(yù)防。做好家中老人的宣傳防范工作。提醒老年人在接到電話、短信時(shí)，要放下電話，再次撥打家人電話確認(rèn)，不要貿(mào)然轉(zhuǎn)賬。

標(biāo)簽：廣東 紅河 楚雄 張掖 海西