www.亚洲精品在线|金瓶梅女主角|55av在线观看|麻豆影视文化传媒软件|欧美午夜日韩一区二区三区电影|91国产精品麻豆视频|亚洲av色综合|91制片厂李琼下载|9277仙踪林果冻传媒|国产91色在线,免费,精品久久久香蕉免费精品视频,全网吃瓜在线,i社3d漫画酒店猎杀小萝莉2

電腦版

擬音,、換臉,,AI詐騙新套路不斷!“眼見不一定為實(shí)”如何防范,?

http://duobangwang.com  2024-10-21 15:09:39   來(lái)源:福州日?qǐng)?bào)  【字號(hào)

  日前,,小米集團(tuán)董事長(zhǎng)雷軍的AI語(yǔ)音包刷屏了。一些網(wǎng)友用AI克隆雷軍的聲音,,或是吐槽不文明行為,,或是表達(dá)對(duì)他人的不滿,言辭尖銳,,十分逼真,,再次引發(fā)公眾對(duì)于技術(shù)加速迭代的深層次思考。

  近年來(lái),,人工智能技術(shù)加快發(fā)展,,在帶來(lái)創(chuàng)新和便利之際,也一并帶來(lái)了侵權(quán),、詐騙等違法行為的可能,。如何防范AI技術(shù)被濫用,?AI詐騙上當(dāng)后怎么辦?近日,,記者對(duì)此進(jìn)行了相關(guān)采訪,。

  用10秒就能克隆任何人的聲音

  雷軍的聲音是如何被克隆的?近日,,記者在某微信公眾號(hào)上發(fā)現(xiàn)一文章標(biāo)題,,“僅用10秒,用AI克隆任何人的聲音”,。順著文章指引,,記者注冊(cè)了某款A(yù)I音頻軟件,發(fā)現(xiàn)軟件上有上百種真人聲音模板,,其中不少都是公眾人物,,部分模板使用次數(shù)高達(dá)近29萬(wàn)人次,直接轉(zhuǎn)發(fā)2500多次,。

  這類“擬音”軟件使用門檻很低,。記者隨機(jī)選擇了其中一款公眾人物的聲音模板,輸入文本,,幾秒鐘內(nèi),,與文本相對(duì)應(yīng)的聲音內(nèi)容就被成功克隆出來(lái)了,語(yǔ)氣,、音色都十分逼真,,還能直接下載、轉(zhuǎn)發(fā),。網(wǎng)絡(luò)上類似的AI聲音軟件并不少見,,不僅如此,還有各類AI換臉軟件和教程層出不窮,,覆蓋圖片,、視頻等,在手機(jī)上就可以操作,。

  工信部信息顯示,,伴隨著人工智能快速發(fā)展,合成技術(shù)門檻持續(xù)降低,,逐漸向低算力,、小樣本學(xué)習(xí)方向演進(jìn),利用手機(jī)終端即可完成,,對(duì)算力和數(shù)據(jù)的要求下降明顯,。同時(shí),隨著AI大模型的技術(shù)加持,,正逐步由面部合成向全身,、3D合成發(fā)展,,效果更加逼真。

  去年4月,,通過(guò)微信上的智能AI換臉技術(shù),,電信詐騙分子佯裝成福州市某科技公司法人代表郭先生的好友,在10分鐘內(nèi)騙取郭先生430萬(wàn)元,。最終通過(guò)警銀聯(lián)動(dòng),,成功緊急止付涉嫌電信詐騙資金330多萬(wàn)元。郭先生表示,,當(dāng)時(shí)騙子給他打視頻,,在視頻中他也確認(rèn)了面孔和聲音,才放松了戒備,。

  業(yè)內(nèi)人士表示,,如今AI技術(shù)正加速向網(wǎng)絡(luò)詐騙、虛假信息等領(lǐng)域滲透,。如在一些網(wǎng)絡(luò)平臺(tái)上假冒明星,、公眾人物生成視頻圖像,吸引網(wǎng)民,。此外,,AI技術(shù)也可能被用來(lái)規(guī)?;貙?shí)施違法犯罪,,如批量、自動(dòng)維護(hù)網(wǎng)絡(luò)賬號(hào),,發(fā)送虛假信息,,模擬人工在線聊天等。

  “用科技打敗科技”

  今年4月,,北京互聯(lián)網(wǎng)法院宣判全國(guó)首例“AI聲音侵權(quán)案”,,原告獲賠25萬(wàn)元。法院表示希望通過(guò)此類案件裁判,,為新業(yè)態(tài)新技術(shù)劃定應(yīng)用邊界,,并亮明兼顧保護(hù)人格權(quán)益與引導(dǎo)技術(shù)向善的司法態(tài)度。

  目前,,我國(guó)法律法規(guī)也對(duì)AI深度偽造作出了一定規(guī)制,。2022年12月施行的反電信網(wǎng)絡(luò)詐騙法加強(qiáng)預(yù)防性法律制度構(gòu)建,加大對(duì)違法犯罪人員的處罰,,對(duì)尚不構(gòu)成犯罪的人員也要從嚴(yán)處罰,,沒收違法所得,處違法所得1~10倍罰款或者10萬(wàn)元以下罰款,,由公安機(jī)關(guān)拘留,。

  2023年1月施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》也明確,,“提供人臉、人聲等生物識(shí)別信息編輯功能的,,應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人,,并取得其單獨(dú)同意”“可能導(dǎo)致公眾混淆或者誤認(rèn)的,應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置,、區(qū)域進(jìn)行顯著標(biāo)識(shí)”等,。

  眼下,福州也正試圖“用科技打敗科技”,。10月6日,,劉某通過(guò)一網(wǎng)絡(luò)社交平臺(tái)接收兼職任務(wù),利用QQ視頻通話和手機(jī)號(hào)碼對(duì)提供兼職者進(jìn)行詐騙,,福州移動(dòng)AI外呼智能化系統(tǒng)智能篩選出劉某的作案號(hào)碼,,精準(zhǔn)識(shí)別GOIP設(shè)備,協(xié)助公安部門迅速追蹤并精準(zhǔn)抓獲嫌疑人,。

  福州移動(dòng)相關(guān)負(fù)責(zé)人介紹,,AI外呼通過(guò)試點(diǎn)提升反詐回呼模型稽核能力,制定回訪研判機(jī)制和規(guī)則,,研判存在詐騙誘導(dǎo)的電話號(hào)碼,、電子郵件及短信,識(shí)別GOIP設(shè)備,,向警方推送線索,,進(jìn)而助力詐騙窩點(diǎn)精準(zhǔn)打擊。截至目前,,系統(tǒng)已協(xié)助公安機(jī)關(guān)完成181個(gè)重要線索核查,,打擊人數(shù)170余人次,繳獲設(shè)備70余臺(tái),。

  此外,,依托e體+智慧賦能警務(wù)實(shí)戰(zhàn)平臺(tái),福州公安部門打通刑偵,、經(jīng)偵,、網(wǎng)安、合成偵查中心等警種資源共享,,建成應(yīng)用網(wǎng)絡(luò)信息攔截系統(tǒng)和警銀聯(lián)動(dòng)預(yù)警平臺(tái),,對(duì)于新型網(wǎng)絡(luò)詐騙實(shí)行快速響應(yīng)、快速研判,,以及推進(jìn)快偵,、快破、快抓逃、快追贓,、快挽損,。

  牢記“三不一多”謹(jǐn)防受騙

  “近年來(lái),電信網(wǎng)絡(luò)詐騙類型層出不窮,,詐騙手段不斷更新,,讓人防不勝防,成為一個(gè)極其復(fù)雜的社會(huì)治理問(wèn)題,,需要社會(huì)各界通力合作,、齊抓共管、綜合治理,?!笔泄簿峙_(tái)江分局相關(guān)負(fù)責(zé)人說(shuō)。

  成立福州大數(shù)據(jù)反詐聯(lián)合專班,,研發(fā)福州市互聯(lián)網(wǎng)詐騙防范攔截系統(tǒng),,加大電信網(wǎng)絡(luò)詐騙犯罪案件辦案懲治力度,建立不良信用通信用戶名單庫(kù)和違法失信懲戒聯(lián)動(dòng)機(jī)制……近年來(lái),,新型網(wǎng)絡(luò)詐騙已引起公檢法及電信,、金融監(jiān)管等多部門的關(guān)注,打擊網(wǎng)絡(luò)詐騙多元共治的治理模式正在逐步形成,。

  要扼制AI仿造技術(shù)的濫用影響,,細(xì)致完善的法律規(guī)范配套措施必不可少。北京市盈科(福州)律師事務(wù)所律師羅錦斌認(rèn)為,,AI仿造技術(shù)不僅可能涉嫌侵害他人肖像權(quán)和名譽(yù)權(quán),,甚至可能涉嫌犯罪。民事侵權(quán)案件中受害方難以舉證證明其損害結(jié)果,、侵權(quán)行為與損害結(jié)果的因果關(guān)系等,,這種情況下,,網(wǎng)絡(luò)服務(wù)提供者的責(zé)任又該如何監(jiān)管和加強(qiáng)是需要考量的,。因此,需要細(xì)化法律條款,,完善配套措施,,才能讓法律條款落到實(shí)地。

  針對(duì)性的反詐宣傳也必不可少,,尤其是針對(duì)一些老年人,、學(xué)生等群體。羅錦斌認(rèn)為,,未來(lái)AI可根據(jù)大數(shù)據(jù)創(chuàng)造出無(wú)比接近真實(shí)的“真實(shí)”,,“要通過(guò)持續(xù)的宣傳教育改變大眾觀念,讓人知道眼見不一定為實(shí),有圖不一定有真相,,提升對(duì)網(wǎng)絡(luò)信息的辨別力”,。

  公安部門也再次提醒廣大公眾,各類電信網(wǎng)絡(luò)詐騙手法雖然形式多變,,但萬(wàn)變不離其宗,,公眾要牢記“三不一多”原則:未知鏈接不點(diǎn)擊,陌生來(lái)電不輕信,,個(gè)人信息不透漏,,轉(zhuǎn)賬匯款多核實(shí)。一旦遇到詐騙分子,,要及時(shí)報(bào)警,,防止財(cái)產(chǎn)損失。(記者 沐方婷)