新聞背景：
國(guó)慶上網(wǎng)被“雷軍”罵了整整7天？有媒體報(bào)道，剛剛過(guò)去的國(guó)慶假期里，短視頻平臺(tái)出現(xiàn)了大量“雷軍”的發(fā)言視頻，涉及堵車(chē)、調(diào)休、游戲等熱門(mén)話題，時(shí)而言辭犀利，時(shí)而爆出粗口。據(jù)悉，這些發(fā)言與知名企業(yè)家雷軍并無(wú)關(guān)系，而是由AI合成。目前，相關(guān)短視頻已被各大平臺(tái)下架。
AI技術(shù)怎能不斷“試探”底線？
從“AI孫燕姿”“AI周杰倫”翻唱歌曲，到“郭德綱”講英文段子、“霉霉”講流利中文，再到如今“雷軍”七天罵翻全網(wǎng)，AI配音在網(wǎng)絡(luò)世界的應(yīng)用并不鮮見(jiàn)。原本，制作者只是在小范圍玩梗逗樂(lè)，卻逐漸變?yōu)樵谶`法、悖德的邊緣瘋狂“試探”：有人利用AI語(yǔ)音招搖撞騙、有人未經(jīng)允許利用AI技術(shù)“重現(xiàn)”已故明星聲音……凡此種種，皆提示我們?cè)谙硎芗夹g(shù)便利的同時(shí)，也要格外關(guān)注潛藏的風(fēng)險(xiǎn)。【詳細(xì)】
AI流水線式造假，不僅侵犯公民的合法權(quán)益、混淆大眾認(rèn)知，更帶來(lái)巨大的風(fēng)險(xiǎn)隱患。《2024人工智能安全報(bào)告》顯示，僅今年上半年，AI詐騙案案值已超過(guò)1.85億元�！�詳細(xì)】
深度偽造已成滋生亂象溫床
從彼雷軍到此“雷軍”，使用“AI配音”就可以“一鍵直達(dá)”。近年來(lái)，通過(guò)AI實(shí)現(xiàn)聲音和畫(huà)面深度偽造的技術(shù)門(mén)檻不斷降低，為這種“一鍵變聲”“一鍵變臉”泛濫提供了可能。目前，市面上已有大量的AI配音小程序，用戶只需在程序內(nèi)選擇相應(yīng)的人物聲音并輸入文字，便可借用他人的聲音發(fā)表言論。有的軟件免費(fèi)向用戶開(kāi)放部分使用權(quán)限，收費(fèi)版本價(jià)格也并不高。
在深度偽造技術(shù)之下，我們?cè)絹?lái)越無(wú)法區(qū)別真假，過(guò)去崇尚的“眼見(jiàn)為實(shí)”受到?jīng)_擊，只能信以為真。而真?zhèn)坞y辨的混沌地帶，也很可能成為滋生各種亂象的溫床。更甚之，不法人員憑借一段原始語(yǔ)音、照片等就能編造謠言甚至設(shè)置陷阱，并借此實(shí)施詐騙�！�詳細(xì)】
該給AI生成套上韁繩了
當(dāng)深度偽造嵌入我們的數(shù)字生活，該怎么辦？這并非無(wú)病呻吟強(qiáng)說(shuō)愁。一方面，要推動(dòng)反深偽檢測(cè)技術(shù)持續(xù)更新迭代，以應(yīng)對(duì)層出不窮的深度偽造騙局；另一方面，要加強(qiáng)技術(shù)監(jiān)管，明確生成式人工智能服務(wù)合法與非法的邊界，對(duì)相關(guān)違法行為進(jìn)行嚴(yán)肅懲處，以“前車(chē)之鑒”構(gòu)筑其參照坐標(biāo)。【詳細(xì)】
就防止AI合成內(nèi)容侵權(quán)的問(wèn)題而言，我們能做的還有很多。比如，作為傳播鏈條中的重要一環(huán)，社交平臺(tái)需負(fù)起相應(yīng)的治理責(zé)任，并注意識(shí)別AI生成音視頻的真?zhèn)�，�?duì)侵權(quán)素材作出及時(shí)處理，必要時(shí)標(biāo)注“疑似AI合成”之類的提醒。再比如，網(wǎng)絡(luò)惡搞不能沒(méi)有邊界，廣大網(wǎng)友也要注重尊重他人的合法權(quán)益，絕不能突破法律和道德的底線。【詳細(xì)】
（以上綜合光明網(wǎng)、北京日?qǐng)?bào)、南方日?qǐng)?bào)）
V視角：
@小小鹿同學(xué)：玩梗要適度，這樣惡搞知名企業(yè)家不太好吧？
@笑逐顏開(kāi)：這種AI換聲已經(jīng)涉嫌侵權(quán)了。
@心隨風(fēng)動(dòng)：雷軍都被侵權(quán)，那我們普通人要遭到侵權(quán)就更難辦了。
@是不是笑一笑就好了：為了流量啥都干，真是沒(méi)有底線了。
@我是布布：支持雷總維權(quán)。
中國(guó)經(jīng)濟(jì)網(wǎng)編后語(yǔ)：
如今，AI換臉或配音、文生文、文生圖、文生視頻等應(yīng)用的發(fā)展如火如荼，但越來(lái)越多的質(zhì)疑聲也隨著侵權(quán)、泄露個(gè)人信息、詐騙等問(wèn)題到來(lái)。雷軍遭遇AI侵權(quán)，或許這次只是惡搞，倘若互聯(lián)網(wǎng)應(yīng)用的場(chǎng)景中謠言和詐騙橫行，我們又該如何應(yīng)對(duì)？規(guī)范生成式人工智能技術(shù)的發(fā)展，不該止于“平臺(tái)下架相關(guān)內(nèi)容”，而應(yīng)當(dāng)最大力度強(qiáng)化監(jiān)管和處罰，同時(shí)，還應(yīng)厘清AI生成的邊界，更好引導(dǎo)“科技向善”。
回顧：往期“經(jīng)”點(diǎn)熱評(píng)
