近日，中央網(wǎng)信辦通報的“清朗”專項行動典型案例中，多起利用AI換臉技術(shù)實施網(wǎng)絡(luò)詐騙的案件引發(fā)輿論熱議。當(dāng)技術(shù)突破與治理滯后的“時間差”被不法分子利用，這場虛實交織的信任危機正倒逼社會治理加速迭代。

技術(shù)雙刃劍折射治理滯后性。國家反詐中心2023年度報告顯示，利用深度合成技術(shù)的電信詐騙案件較上年增長193%，單筆最高涉案金額達430萬元。與之形成對比的是，某第三方機構(gòu)調(diào)研顯示，78.6%的中小企業(yè)仍在使用靜態(tài)密碼作為唯一驗證手段。技術(shù)迭代的“摩爾定律”與風(fēng)險防御的“龜速更新”，暴露出技術(shù)創(chuàng)新與社會治理的“時空錯位”。

這種現(xiàn)象在商業(yè)領(lǐng)域尤為突出：部分直播平臺為追求流量縱容AI換臉特效濫用，某些電商商家公然出售深度偽造軟件教程。這些亂象揭示出，當(dāng)技術(shù)倫理讓位于商業(yè)利益時，技術(shù)創(chuàng)新就會異化為社會風(fēng)險的放大器。

四川實踐提供破局新思路。成都高新區(qū)日前上線的“AI安全靶場”提供了有益探索。該平臺通過模擬200余種深度偽造攻擊場景，已為本地金融機構(gòu)訓(xùn)練出識別準(zhǔn)確率達98.7%的風(fēng)險預(yù)警模型。綿陽某科技企業(yè)研發(fā)的“生物特征動態(tài)核驗系統(tǒng)”，要求視頻通話時同步驗證微表情肌電信號，成功阻斷多起仿冒詐騙。

這些創(chuàng)新實踐印證著：構(gòu)建可信數(shù)字生態(tài)需要“技術(shù)盾牌”與“制度鎧甲”的雙重加持。正如省人工智能研究院專家所言：“防范AI詐騙不是簡單的技術(shù)攻防戰(zhàn)，而是涉及法律規(guī)范、行業(yè)標(biāo)準(zhǔn)、公眾教育的系統(tǒng)工程?！?/p>

構(gòu)建全鏈條治理生態(tài)體系。江蘇省近日出臺的《人工智能倫理審查指引》開創(chuàng)性提出“三前置”原則：倫理評估前置技術(shù)研發(fā)、風(fēng)險測試前置產(chǎn)品上市、普法教育前置場景應(yīng)用。深圳推出的“深度合成服務(wù)標(biāo)識系統(tǒng)”，要求所有AI生成內(nèi)容必須加載可溯源數(shù)字水印。這些制度創(chuàng)新為技術(shù)倫理建設(shè)提供了實踐樣本。

在四川，電子科技大學(xué)聯(lián)合省公安廳搭建的“AI反詐聯(lián)合實驗室”已形成產(chǎn)學(xué)研閉環(huán)：通過海量詐騙樣本訓(xùn)練出的檢測模型，識別效率較傳統(tǒng)手段提升17倍；同步開發(fā)的“銀發(fā)守護”小程序，用方言短視頻幫助老年人識別AI詐騙套路，覆蓋用戶超百萬。

站在數(shù)字文明的分水嶺，我們需要的不是因噎廢食的技術(shù)恐懼，而是張弛有度的治理智慧。當(dāng)上海市人工智能倫理委員會開始試行“技術(shù)創(chuàng)新倫理預(yù)審”制度，當(dāng)成都高新區(qū)設(shè)立全國首個AI安全靶場，這些探索都在詮釋一個真理：技術(shù)進步的速度永遠不應(yīng)該超過社會駕馭它的能力。唯有讓倫理之燈始終照亮創(chuàng)新前路，才能避免技術(shù)紅利異化為社會風(fēng)險，在虛實交融的數(shù)字世界守護人性的溫度。（王浩然）

編輯：馮方湲

責(zé)任編輯：金艷

編審：喻佳