1月31日，公安部網(wǎng)安局發(fā)文提醒公眾，注意防范合成聲音和AI換臉等人工智能新型手段詐騙,建議通過多重驗證、保護信息和相互提示的方式避免上當。

所謂合成聲音，是指騙子通過騷擾電話錄音等來提取某人聲音，獲取素材后進行聲音合成，從而可以用偽造的聲音騙過對方。

據(jù)公安部網(wǎng)安局公布的案例，2020年12月，某公司財務小王接到領(lǐng)導電話，要求立刻給供應商轉(zhuǎn)款2萬元，并將轉(zhuǎn)賬信息以郵件形式發(fā)送，轉(zhuǎn)款理由是避免繳納滯納金。由于老板的口音十分逼真，小王信以為真，在1小時內(nèi)轉(zhuǎn)款完成，后發(fā)現(xiàn)被騙。

澎湃新聞梳理發(fā)現(xiàn)，類似的案件也發(fā)生在國外。2019年9月，犯罪分子使用語音克隆軟件對英國一家能源公司高管的聲音進行模仿。該公司的執(zhí)行董事在接聽詐騙電話后，將24萬美元匯入了一個匈牙利賬戶。目前，該罪犯仍未被抓獲。

2020年2月20日 ，互聯(lián)網(wǎng)安全專家公司Symantec報告了三起音頻詐騙案例，犯罪分子通過電話會議、YouTube、社交媒體以及TED演講獲得了公司高管的音頻，然后用機器學習技術(shù)復制高管的聲音，致電財務部門的高級成員要求緊急匯款。

比聲音合成更高級的騙術(shù)是AI換臉。

近年來，以“深度偽造”技術(shù)（Deepfake）為代表的AI換臉技術(shù)日益成熟。通過“深度偽造”技術(shù)，可以將圖片或視頻中A的臉換到B的頭上。其名字由深度機器學習（deep machine learning）和假照片（fake photo）組合而成。

2019年8月，一個名為“ZAO”的AI換臉APP一度爆紅，后因隱私、倫理等問題備受詬病。在“ZAO”APP中，用戶只需上傳一張自己的照片，就能將自己的臉替換到某位明星的頭上，而且臉融合效果非常棒。這款應用強大的“換臉術(shù)”就是基于“深度偽造”技術(shù)。

目前，“深度偽造”技術(shù)正在被用于詐騙。騙子首先分析公眾發(fā)布在網(wǎng)上的各類信息，根據(jù)所要實施的騙術(shù)，通過AI技術(shù)篩選目標人群。在視頻通話中利用AI換臉，騙取信任。

近日，南京警方接到小李報警稱，被詐騙3000元。小李介紹，大學同學通過QQ跟她借錢，對方打過來一段只有四五秒的視頻電話，小李看到確實是本人，便放心轉(zhuǎn)賬。她在第二次轉(zhuǎn)賬時發(fā)現(xiàn)異常，再次撥通對方電話才得知同學的帳號被盜。警方判斷，那段視頻很有可能被人換了臉。目前，警方已立案。

《科技日報》此前援引安全分析公司Sensity的調(diào)查結(jié)果稱，自2018年12月以來，“深度偽造”技術(shù)在線造假視頻的數(shù)量大約每6個月翻一番，而截至2020年6月，造假視頻已經(jīng)多達49081個，比2019年7月增長了330%。

公安部網(wǎng)安局提醒，面對AI換臉詐騙，“看眼睛”是識別假臉的方法之一。多數(shù)假臉都是使用睜眼照片合成，假臉極少甚至不會眨眼，缺少眨眼是判斷一個視頻真假的好方法。

辨識“深度偽造”換臉視頻的方法還包括語音和嘴唇運動的同步狀況、情緒不符合、模糊的痕跡、畫面停頓或變色。然而，專家指出，通過不斷的技術(shù)迭代，遲早會有人可以通過“深度偽造”技術(shù)制造出人類用肉眼無法識別的“假臉”。

面對日益強大的人工智能新型詐騙手段，公眾可以采取哪些防范方法？

公安部網(wǎng)安局提醒以下三點：

多重驗證，確認身份。目前，AI換臉難以肉眼區(qū)分。因此，在涉及錢款時，盡量通過電話詢問具體信息，確認對方是否為本人。

保護信息，避免誘惑。加強個人信息保護意識，對于不明平臺發(fā)來的廣告、中獎、交友等鏈接提高警惕，不隨意填寫個人信息，以免被騙子“精準圍獵”。

相互提示，共同預防。做好家中老人的宣傳防范工作。提醒老年人在接到電話、短信時，要放下電話，再次撥打家人電話確認，不要貿(mào)然轉(zhuǎn)賬。

標簽：廣東 紅河 楚雄 張掖 海西