飛象原創(chuàng)（高靖宇/文）只需一張靜態(tài)照片，詐騙分子便可通過(guò)深度合成技術(shù)生成逼真視頻，甚至克隆聲音，冒充親友、領(lǐng)導(dǎo)或明星實(shí)施詐騙。今年全國(guó)兩會(huì)，“靳東兩會(huì)建議AI換臉立法”登上熱搜；雷軍則在其議案中提到，“AI換臉擬聲”濫用已成為違法侵權(quán)的重災(zāi)區(qū)。隨著AI技術(shù)的深度應(yīng)用，所帶來(lái)的安全挑戰(zhàn)也日益嚴(yán)峻。
電詐技術(shù)翻新
一家跨國(guó)公司地方分部的職員受邀參加總部首席財(cái)務(wù)官發(fā)起的“多人視頻會(huì)議”，并按要求先后轉(zhuǎn)賬多次，將2億港元分15次轉(zhuǎn)到5個(gè)賬戶內(nèi)。實(shí)際上，那場(chǎng)會(huì)議中，除了他自己以外，其余與會(huì)人員全部是詐騙團(tuán)隊(duì)通過(guò)“AI換臉”和“AI換聲”偽造的。
在AI的幫助下，完成AI換臉換聲變得極為簡(jiǎn)單。在某暗網(wǎng)論壇，一段10秒的換臉視頻售價(jià)僅50元，支持定制化服務(wù)。詐騙團(tuán)伙通過(guò)社交媒體、釣魚網(wǎng)站等渠道獲取受害者人臉信息，再利用開源AI工具生成逼真視頻，實(shí)施“冒充熟人”“虛假投資”等詐騙。
AI詐騙相比傳統(tǒng)詐騙，技術(shù)手段更高級(jí)、詐騙手段更隱蔽，也更容易引起信任。一項(xiàng)由媒體機(jī)構(gòu)發(fā)起的大學(xué)生調(diào)研，在回收的近1500份有效調(diào)查問(wèn)卷中，半數(shù)受訪大學(xué)生本人或身邊的人曾遭遇疑似AI詐騙，7成大學(xué)生對(duì)AI詐騙感到恐慌，表示自己會(huì)被AI詐騙。
用魔法打敗魔法
從AI換臉的“數(shù)字面具”到偽基站的“隱形幽靈”，再到騷擾電話的“狂轟濫炸”，詐騙手段的升級(jí)速度遠(yuǎn)超想象。但手機(jī)技術(shù)的反擊同樣迅猛：硬件級(jí)識(shí)別、云端大數(shù)據(jù)、行為模式分析……這些創(chuàng)新正在構(gòu)建一道道“防詐護(hù)城河”。
榮耀MagicOS 9.0能夠識(shí)別視頻中的人是否為“AI換臉”，當(dāng)用戶在進(jìn)行視頻通話時(shí)，用戶可以利用榮耀MagicOS 9.0的AI換臉檢測(cè)功能，對(duì)視頻中的人物進(jìn)行人臉檢測(cè)，排除對(duì)方通過(guò)AI換臉進(jìn)行詐騙的潛在風(fēng)險(xiǎn)，提升用機(jī)安全感。
結(jié)合AI技術(shù)，vivo在手機(jī)中內(nèi)置了AI接聽詐騙電話的功能，它可以智能識(shí)別潛在的詐騙來(lái)電，在你接聽之前進(jìn)行判斷。這就像是給你的耳朵裝上了一雙“慧眼”，讓你在“無(wú)形的戰(zhàn)斗”中多了一份保護(hù)。
小米MIUI注重在隱私安全方面的新特性，例如增加系統(tǒng)級(jí)全鏈路反詐，貫穿電信詐騙整條鏈路，提供「電詐預(yù)警」「官方標(biāo)識(shí)」「詐騙應(yīng)用安裝攔截」「轉(zhuǎn)賬防護(hù)」多重守護(hù)，實(shí)現(xiàn)全方位守護(hù)用戶的信息與財(cái)產(chǎn)安全。
目前，AI手機(jī)已經(jīng)開始普及，手機(jī)廠商都宣稱自己的端側(cè)AI大模型能力，但普遍的AI功能仍依賴云側(cè)大模型。端云協(xié)同中，用戶與模型交互數(shù)據(jù)密切，較多涉及個(gè)人隱私，而這些敏感信息如何確保不會(huì)被AI收集訓(xùn)練？OPPO 正推出隱私云計(jì)算系統(tǒng)，旨在確保用戶的敏感信息，如瀏覽記錄和私人通話，不會(huì)被用于 AI 訓(xùn)練。
結(jié)語(yǔ)：
技術(shù)永遠(yuǎn)不是萬(wàn)能的，在AI構(gòu)筑的手機(jī)堡壘之外，更需要筑牢認(rèn)知防火墻。反詐專家建議采取"三要三不要"原則：要核實(shí)對(duì)方身份真實(shí)性，要通過(guò)官方渠道確認(rèn)信息；要警惕過(guò)度利好的誘惑，不要輕信天上掉餡餅；要保護(hù)好個(gè)人隱私信息，不要隨意透露生物特征。同時(shí)應(yīng)定期更新手機(jī)系統(tǒng)，開啟雙重認(rèn)證功能。"最好的反詐技術(shù)，就是每個(gè)人心中那道不會(huì)被AI攻破的防火墻。"
