近年來，隨著人臉識別技術(shù)的廣泛應用和人工智能技術(shù)的進步，一些不法分子開始利用AI技術(shù)融合他人面孔和聲音、制造逼真的合成圖像來實施新型網(wǎng)絡詐騙。值得一提的是，目前，溫州反詐“AI警官”上線，并于今年7月開始在龍港試點推廣，市民們可添加“溫州市反詐中心”企業(yè)微信號體驗。
從形象到聲音，如何警惕AI“深度造假”？
公司老板遭遇AI換臉詐騙
10分鐘被“好友”騙走430萬元
今年5月8日，內(nèi)蒙古包頭市公安局電信網(wǎng)絡犯罪偵查局發(fā)布了一起使用智能AI技術(shù)進行電信詐騙的案件，4月20日，福建省福州市某科技公司法人代表郭先生的“好友”突然通過微信視頻聯(lián)系他，聲稱自己的朋友在外地投標，需要430萬元保證金，且需要公對公賬戶過賬，所以想要借用郭先生公司的賬戶走賬。
這位“好友”向郭先生要了銀行卡號，聲稱已把錢轉(zhuǎn)入郭先生的賬戶，并將銀行轉(zhuǎn)賬截圖發(fā)給郭先生。基于視頻聊天信任的前提，郭先生并未核實錢是否到賬，就陸續(xù)轉(zhuǎn)給對方共計430萬元，之后郭先生才發(fā)現(xiàn)被騙。對方通過智能AI換臉技術(shù)，佯裝成好友對他實施了詐騙。
民警陳歆怡曾辦理過多起倒賣、非法利用用戶人臉照片的侵公案件，她表示AI換臉換聲的基本邏輯是通過深度學習特定算法，將目標人物的人臉、表情、聲音等嫁接進模仿的視頻中，成本低、合成速率高、檢測鑒別難度大，一般人很難發(fā)現(xiàn)偽裝痕跡。目前，AI詐騙主要有兩種形式：
第一種是通過技術(shù)手段合成換臉、換聲的視頻或語音，在視頻聊天、普通電話中直接播放。這種詐騙主要出現(xiàn)于比較緊急的情況，如遭遇事故求助等，播放結(jié)束后就會中斷連接，無法與被害人形成回合性對話。
另一種是在視頻通話中直接換臉并替換聲音，或直接換聲撥打電話。
民警提示，以上兩種詐騙方式都受限于樣本數(shù)量，所以可以通過延長通話時間、多次進行提問的方式讓對方多說話，露出破綻。
2022年，網(wǎng)信辦、工信部和公安部制定的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》明確，深度合成服務者應采取技術(shù)或人工方式對使用者的輸入數(shù)據(jù)和合成結(jié)果進行審核。今年8月，網(wǎng)信辦發(fā)布的《人臉識別技術(shù)應用安全管理規(guī)定（試行）（征求意見稿）》明確，人臉識別技術(shù)使用者應每年對圖像采集設備、個人身份識別設備的安全性和可能存在的風險進行檢測評估，采取有效措施保護圖像采集設備、個人身份識別設備免受攻擊、侵入、干擾和破壞。
北京航空航天大學法學院副教授趙精武表示，相關部門加強監(jiān)管的同時，也需要公眾自身樹立起良好的防詐騙意識。“涉及到轉(zhuǎn)賬等財務信息的電話請求，采取其他方式跟好友進行確認。”
民警進一步強調(diào)，要想從源頭上預防此類詐騙案件的發(fā)生，保護好個人信息是關鍵：
不要隨意接聽陌生電話，防止詐騙人員以電銷推廣等借口采集發(fā)音、語句；
避免在個人互聯(lián)網(wǎng)社交賬戶上過多暴露個人照片、聲音、視頻等信息；
對外提供人臉照片時需謹慎對待；
使用小眾軟件進行身份認證、網(wǎng)絡貸款實名放貸時需提高警惕；
不要隨意點擊陌生鏈接，鏈接中的木馬程序會竊取用戶手機內(nèi)的照片、監(jiān)聽回傳通話內(nèi)容；
開啟定位服務、輸入身份證號、錄入人臉識別信息、指紋識別信息等個人生物信息時，一定要慎之又慎。
此外，民警表示，各APP網(wǎng)絡服務提供者在收集、使用個人信息時應遵循合法、正當、必要、公開的原則，不得收集與其提供的服務無關的個人信息，應當采取技術(shù)措施和其他必要措施，確保其收集的個人信息安全，不得主動向外提供，也要防止信息泄露、毀損、丟失。
如何實現(xiàn)安全和便捷兼?zhèn)涞腁I驗證模式？對此，趙精武認為，二者的平衡有探討的空間?！靶枰Y(jié)合AI技術(shù)的發(fā)展動向進行同步調(diào)整，也需要服務提供者在相關深度合成產(chǎn)品和服務中增加‘AI生成’的標識機制，降低第三方識別AI生成內(nèi)容的難度?！?/span>
來源/龍港市融媒體中心
資料/中國之聲
編輯 一審/吳蒙蒙
二審/范呈祥
三審/李甫倉
| 歡迎光臨 龍港論壇 (http://www.student8.net/) | Powered by Discuz! X3.4 |