隨著AI生成技術飛速發(fā)展，“視頻換臉”、“形象克隆”等黑灰產(chǎn)業(yè)鏈迅速滋生，人臉識別驗證的安全性正受到挑戰(zhàn)。近日，山東一個AI詐騙犯罪團伙落網(wǎng)，警方查獲AI合成的搖頭、眨眼等動態(tài)人臉視頻5萬多條，這些視頻被電詐團伙用于進行虛假實名認證。

普通人可能認為這是一種遠離生活的“高科技犯罪”，但事實上，類似的視頻人人都能做，相關工具甚至在一些平臺明碼標價。記者在主流電商平臺檢索發(fā)現(xiàn)，眼下不少商家正在兜售一種集成了“圖片生視頻”功能的AI工具，聲稱只需一張大頭照就能精準復刻搖頭、張嘴等動作，并將生成的畫面?zhèn)窝b成手機攝像頭拍到的實時畫面。此類軟件本身的售價大多在百元以內(nèi)，而視頻生成的成本在5秒2元左右。至于工具的具體用途，這些商家統(tǒng)一避而不談，表示能干什么、能用于哪些平臺都要買家“自己測試”，任何應用項目和賣家無關，而軟件資料均通過網(wǎng)盤和微信渠道交接。

更令人心驚的是，AI生成的這些人臉識別視頻，確實可能騙過平臺檢驗系統(tǒng)。去年7月，南京的符某非法獲取超195萬余條個人信息后，通過AI換臉進行人臉識別，登錄了23名被害人的支付賬戶并盜刷銀行卡消費上萬元，最終被判處有期徒刑4年6個月。AI時代，人臉識別驗證的“防線”會不會逐步失效？普通人是否有必要擔憂，又如何防范其中風險？

對此，上海人工智能研究院AI算法工程師馬容與介紹，傳統(tǒng)的人臉識別驗證思路只靠眨眼、張嘴和轉(zhuǎn)頭來判斷活體，這種方案的安全邊際確實正在縮小。如今，更有效的檢測機制可以對整段視頻的幀率、時序、設備可信度和行為風控等多個因素進行審核，從而提高面對AI的辨識力，這也對平臺提出了更高的抗偽造能力要求。對于普通網(wǎng)民，專家建議盡量避免暴露身份證件、高清正臉視頻等高風險信息，謹慎進行人臉采集授權，并在進行重要資金操作時優(yōu)先選擇短信密碼、動態(tài)令牌、人工復核等復合型驗證方式，以免成為AI攻擊的“素材”。

必須明確的是，非法盜用面部照片、音頻等敏感生物識別信息，可能涉及侵犯公民個人信息罪，相關信息收集方也需承擔侵權責任。對此，法律專家建議，除了平臺方強化審核之外，更應在立法層面細化AI生成內(nèi)容標識標準、侵權責任劃分，執(zhí)法層面強化備案與處罰力度，及時堵住人臉識別防線“漏洞”。