日前，小米集團(tuán)董事長(zhǎng)雷軍的AI語(yǔ)音包刷屏了,。一些網(wǎng)友用AI克隆雷軍的聲音,，或是吐槽不文明行為，或是表達(dá)對(duì)他人的不滿,，言辭尖銳,，十分逼真，再次引發(fā)公眾對(duì)于技術(shù)加速迭代的深層次思考,。

　　近年來(lái),，人工智能技術(shù)加快發(fā)展，在帶來(lái)創(chuàng)新和便利之際,，也一并帶來(lái)了侵權(quán),、詐騙等違法行為的可能。如何防范AI技術(shù)被濫用,？AI詐騙上當(dāng)后怎么辦,？近日，記者對(duì)此進(jìn)行了相關(guān)采訪,。

　　用10秒就能克隆任何人的聲音

　　雷軍的聲音是如何被克隆的,？近日，記者在某微信公眾號(hào)上發(fā)現(xiàn)一文章標(biāo)題,，“僅用10秒,，用AI克隆任何人的聲音”。順著文章指引,，記者注冊(cè)了某款A(yù)I音頻軟件,，發(fā)現(xiàn)軟件上有上百種真人聲音模板，其中不少都是公眾人物,，部分模板使用次數(shù)高達(dá)近29萬(wàn)人次,，直接轉(zhuǎn)發(fā)2500多次。

　　這類“擬音”軟件使用門(mén)檻很低,。記者隨機(jī)選擇了其中一款公眾人物的聲音模板,，輸入文本，幾秒鐘內(nèi)，與文本相對(duì)應(yīng)的聲音內(nèi)容就被成功克隆出來(lái)了,，語(yǔ)氣、音色都十分逼真,，還能直接下載,、轉(zhuǎn)發(fā)。網(wǎng)絡(luò)上類似的AI聲音軟件并不少見(jiàn),，不僅如此,，還有各類AI換臉軟件和教程層出不窮，覆蓋圖片,、視頻等,，在手機(jī)上就可以操作。

　　工信部信息顯示,，伴隨著人工智能快速發(fā)展,，合成技術(shù)門(mén)檻持續(xù)降低，逐漸向低算力,、小樣本學(xué)習(xí)方向演進(jìn),，利用手機(jī)終端即可完成，對(duì)算力和數(shù)據(jù)的要求下降明顯,。同時(shí),，隨著AI大模型的技術(shù)加持，正逐步由面部合成向全身,、3D合成發(fā)展,，效果更加逼真。

　　去年4月,，通過(guò)微信上的智能AI換臉技術(shù),，電信詐騙分子佯裝成福州市某科技公司法人代表郭先生的好友，在10分鐘內(nèi)騙取郭先生430萬(wàn)元,。最終通過(guò)警銀聯(lián)動(dòng),，成功緊急止付涉嫌電信詐騙資金330多萬(wàn)元。郭先生表示,，當(dāng)時(shí)騙子給他打視頻,，在視頻中他也確認(rèn)了面孔和聲音，才放松了戒備,。

　　業(yè)內(nèi)人士表示,，如今AI技術(shù)正加速向網(wǎng)絡(luò)詐騙、虛假信息等領(lǐng)域滲透,。如在一些網(wǎng)絡(luò)平臺(tái)上假冒明星,、公眾人物生成視頻圖像，吸引網(wǎng)民。此外,，AI技術(shù)也可能被用來(lái)規(guī)?；貙?shí)施違法犯罪，如批量,、自動(dòng)維護(hù)網(wǎng)絡(luò)賬號(hào),，發(fā)送虛假信息，模擬人工在線聊天等,。

　　“用科技打敗科技”

　　今年4月,，北京互聯(lián)網(wǎng)法院宣判全國(guó)首例“AI聲音侵權(quán)案”，原告獲賠25萬(wàn)元,。法院表示希望通過(guò)此類案件裁判,，為新業(yè)態(tài)新技術(shù)劃定應(yīng)用邊界，并亮明兼顧保護(hù)人格權(quán)益與引導(dǎo)技術(shù)向善的司法態(tài)度,。

　　目前,，我國(guó)法律法規(guī)也對(duì)AI深度偽造作出了一定規(guī)制。2022年12月施行的反電信網(wǎng)絡(luò)詐騙法加強(qiáng)預(yù)防性法律制度構(gòu)建,，加大對(duì)違法犯罪人員的處罰,，對(duì)尚不構(gòu)成犯罪的人員也要從嚴(yán)處罰，沒(méi)收違法所得,，處違法所得1~10倍罰款或者10萬(wàn)元以下罰款,，由公安機(jī)關(guān)拘留。

　　2023年1月施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》也明確,，“提供人臉,、人聲等生物識(shí)別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人,，并取得其單獨(dú)同意”“可能導(dǎo)致公眾混淆或者誤認(rèn)的,，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)”等,。

　　眼下,，福州也正試圖“用科技打敗科技”。10月6日,，劉某通過(guò)一網(wǎng)絡(luò)社交平臺(tái)接收兼職任務(wù),，利用QQ視頻通話和手機(jī)號(hào)碼對(duì)提供兼職者進(jìn)行詐騙，福州移動(dòng)AI外呼智能化系統(tǒng)智能篩選出劉某的作案號(hào)碼,，精準(zhǔn)識(shí)別GOIP設(shè)備,，協(xié)助公安部門(mén)迅速追蹤并精準(zhǔn)抓獲嫌疑人。

　　福州移動(dòng)相關(guān)負(fù)責(zé)人介紹,，AI外呼通過(guò)試點(diǎn)提升反詐回呼模型稽核能力,，制定回訪研判機(jī)制和規(guī)則,，研判存在詐騙誘導(dǎo)的電話號(hào)碼、電子郵件及短信,，識(shí)別GOIP設(shè)備,，向警方推送線索，進(jìn)而助力詐騙窩點(diǎn)精準(zhǔn)打擊,。截至目前,，系統(tǒng)已協(xié)助公安機(jī)關(guān)完成181個(gè)重要線索核查，打擊人數(shù)170余人次,，繳獲設(shè)備70余臺(tái)。

　　此外,，依托e體+智慧賦能警務(wù)實(shí)戰(zhàn)平臺(tái),，福州公安部門(mén)打通刑偵、經(jīng)偵,、網(wǎng)安,、合成偵查中心等警種資源共享，建成應(yīng)用網(wǎng)絡(luò)信息攔截系統(tǒng)和警銀聯(lián)動(dòng)預(yù)警平臺(tái),，對(duì)于新型網(wǎng)絡(luò)詐騙實(shí)行快速響應(yīng),、快速研判，以及推進(jìn)快偵,、快破,、快抓逃、快追贓,、快挽損,。

　　牢記“三不一多”謹(jǐn)防受騙

　　“近年來(lái)，電信網(wǎng)絡(luò)詐騙類型層出不窮,，詐騙手段不斷更新,，讓人防不勝防，成為一個(gè)極其復(fù)雜的社會(huì)治理問(wèn)題,，需要社會(huì)各界通力合作,、齊抓共管、綜合治理,?！笔泄簿峙_(tái)江分局相關(guān)負(fù)責(zé)人說(shuō)。

　　成立福州大數(shù)據(jù)反詐聯(lián)合專班,，研發(fā)福州市互聯(lián)網(wǎng)詐騙防范攔截系統(tǒng),，加大電信網(wǎng)絡(luò)詐騙犯罪案件辦案懲治力度，建立不良信用通信用戶名單庫(kù)和違法失信懲戒聯(lián)動(dòng)機(jī)制……近年來(lái),，新型網(wǎng)絡(luò)詐騙已引起公檢法及電信,、金融監(jiān)管等多部門(mén)的關(guān)注，打擊網(wǎng)絡(luò)詐騙多元共治的治理模式正在逐步形成。

　　要扼制AI仿造技術(shù)的濫用影響,，細(xì)致完善的法律規(guī)范配套措施必不可少,。北京市盈科（福州）律師事務(wù)所律師羅錦斌認(rèn)為，AI仿造技術(shù)不僅可能涉嫌侵害他人肖像權(quán)和名譽(yù)權(quán),，甚至可能涉嫌犯罪,。民事侵權(quán)案件中受害方難以舉證證明其損害結(jié)果、侵權(quán)行為與損害結(jié)果的因果關(guān)系等,，這種情況下,，網(wǎng)絡(luò)服務(wù)提供者的責(zé)任又該如何監(jiān)管和加強(qiáng)是需要考量的。因此,，需要細(xì)化法律條款,，完善配套措施，才能讓法律條款落到實(shí)地,。

　　針對(duì)性的反詐宣傳也必不可少,，尤其是針對(duì)一些老年人、學(xué)生等群體,。羅錦斌認(rèn)為,，未來(lái)AI可根據(jù)大數(shù)據(jù)創(chuàng)造出無(wú)比接近真實(shí)的“真實(shí)”，“要通過(guò)持續(xù)的宣傳教育改變大眾觀念,，讓人知道眼見(jiàn)不一定為實(shí),，有圖不一定有真相，提升對(duì)網(wǎng)絡(luò)信息的辨別力”,。

　　公安部門(mén)也再次提醒廣大公眾,，各類電信網(wǎng)絡(luò)詐騙手法雖然形式多變，但萬(wàn)變不離其宗,，公眾要牢記“三不一多”原則：未知鏈接不點(diǎn)擊,，陌生來(lái)電不輕信，個(gè)人信息不透漏,，轉(zhuǎn)賬匯款多核實(shí),。一旦遇到詐騙分子，要及時(shí)報(bào)警,，防止財(cái)產(chǎn)損失,。（記者 沐方婷）