管住AI“魔改”視頻，讓“科技向善”落地有聲

本報(bào)評(píng)論員 韓韞超

用人工智能賦能各行業(yè)各領(lǐng)域的發(fā)展，同時(shí)避免技術(shù)異化，引導(dǎo)技術(shù)向上向善，讓其真正成為推動(dòng)社會(huì)進(jìn)步和提升生活品質(zhì)的有力工具，應(yīng)該成為各方積極努力的方向。

《甄嬛傳》變身“槍?xiě)?zhàn)片”，《紅樓夢(mèng)》改成“武打戲”，孫悟空騎著摩托車(chē)揚(yáng)長(zhǎng)而去……據(jù)12月10日新華社報(bào)道，廣電總局網(wǎng)絡(luò)視聽(tīng)司日前發(fā)布《管理提示(AI魔改)》，指出近期AI“魔改”視頻以假亂真、“魔改”經(jīng)典現(xiàn)象頻發(fā)，要求各相關(guān)省局督促轄區(qū)內(nèi)短視頻平臺(tái)排查清理AI“魔改”影視劇的短視頻，限期反饋工作情況；嚴(yán)格落實(shí)生成式人工智能內(nèi)容審核要求，舉一反三，對(duì)各自平臺(tái)開(kāi)發(fā)的大模型或AI特效功能等進(jìn)行自查，對(duì)在平臺(tái)上使用、傳播的各類(lèi)相關(guān)技術(shù)產(chǎn)品嚴(yán)格準(zhǔn)入和監(jiān)看，對(duì)AI生成內(nèi)容做出顯著提示。

“在AI‘魔改’視頻里，你永遠(yuǎn)不知道下一秒會(huì)發(fā)生什么”“以前是電視放什么看什么，現(xiàn)在是想看什么自己就用AI做什么”——社交平臺(tái)上，有網(wǎng)友總結(jié)了“AI魔改”視頻的“無(wú)所不能”。這類(lèi)視頻大多是創(chuàng)作者腦洞大開(kāi)，為經(jīng)典影視劇中的名場(chǎng)面設(shè)置另一段離奇情節(jié)，并通過(guò)提供圖片和文字描述的方式在AI視頻軟件或網(wǎng)站上生成，追求的多是出其不意、驚掉下巴。對(duì)此，不少網(wǎng)友表示“初看覺(jué)得新鮮，但沒(méi)底線地修改經(jīng)典，傳遞的價(jià)值觀大都是錯(cuò)誤的，是過(guò)度娛樂(lè)了”，還有網(wǎng)友坦言“不少人可能笑笑就過(guò)去了，但對(duì)劇粉來(lái)說(shuō)感覺(jué)是毀了角色”。

如此現(xiàn)實(shí)下，廣電總局發(fā)布管理提示，要求對(duì)此類(lèi)視頻進(jìn)行規(guī)范與監(jiān)管，十分必要。提示中“相關(guān)視頻為博流量，毫無(wú)邊界褻瀆經(jīng)典IP，沖擊傳統(tǒng)文化認(rèn)知，與原著精神內(nèi)核相悖，且涉嫌構(gòu)成侵權(quán)行為”的表述，也一針見(jiàn)血地指出了“AI魔改”視頻的危害。

近年來(lái)，人工智能產(chǎn)業(yè)蓬勃發(fā)展，技術(shù)迭代升級(jí)的速度驚人，一個(gè)個(gè)新鮮且功能強(qiáng)大的產(chǎn)品，不斷拓展著技術(shù)落地的場(chǎng)景，改變著人們的生產(chǎn)生活。不過(guò)，對(duì)技術(shù)的運(yùn)用也不時(shí)帶來(lái)一些隱患——“AI換臉”可以讓一輩子未走出深山的大爺開(kāi)口“飆英文”，“AI復(fù)活”可以讓已經(jīng)去世的明星對(duì)大家說(shuō)“其實(shí)我并沒(méi)有真正離開(kāi)”，“AI換聲”可以隨意克隆任何一個(gè)自然人的聲音……不難想見(jiàn)，這些操作之下，有心之人完全可以通過(guò)炮制名人音頻作品以假亂真，甚至可以假冒某個(gè)特定的人精準(zhǔn)“殺熟”、實(shí)施詐騙……當(dāng)親眼所見(jiàn)、親耳所聽(tīng)都變得不足為信，后果可想而知。AI技術(shù)濫用可能帶來(lái)的道德倫理、信息安全、侵犯權(quán)利等問(wèn)題，不僅會(huì)嚴(yán)重污染網(wǎng)絡(luò)視聽(tīng)空間，也為“科技改變生活”蒙上了一層陰影。

毫無(wú)疑問(wèn)，任何技術(shù)的應(yīng)用和發(fā)展都應(yīng)建立在符合道德倫理、社會(huì)規(guī)則和法律的前提下。用人工智能賦能各行業(yè)各領(lǐng)域的發(fā)展，同時(shí)避免技術(shù)異化，引導(dǎo)技術(shù)向上向善，讓其真正成為推動(dòng)社會(huì)進(jìn)步和提升生活品質(zhì)的有力工具，應(yīng)該成為各方積極努力的方向。

防御和抵制那些涉嫌違反法律法規(guī)、社會(huì)公德、倫理道德的AI應(yīng)用，謹(jǐn)慎對(duì)待那些有潛在風(fēng)險(xiǎn)的AI應(yīng)用，已有不少治理舉措。從《生成式人工智能服務(wù)管理暫行辦法》出臺(tái)、《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法(征求意見(jiàn)稿)》發(fā)布，到相關(guān)職能部門(mén)及時(shí)“喊話”要求整治相關(guān)亂象，再到互聯(lián)網(wǎng)大會(huì)上各方積極探討“AI向善”、共同擘畫(huà)與人工智能共存的未來(lái)，AI技術(shù)這列高速行駛的列車(chē)，需要科學(xué)的信號(hào)指引，需要多方之力的保駕護(hù)航。與此同時(shí)，監(jiān)管過(guò)程中面臨的一些挑戰(zhàn)應(yīng)該引起重視，如AI訓(xùn)練時(shí)使用的算法模型存在問(wèn)題、使用的數(shù)據(jù)存在侵權(quán)風(fēng)險(xiǎn)，不同級(jí)別的監(jiān)管者法律責(zé)任界限不清等。相應(yīng)的監(jiān)管手段也要避免臨時(shí)性、應(yīng)急性，讓“科技向善”更加有的放矢、落地有聲。

就在這幾天，有媒體報(bào)道了江蘇無(wú)錫街道上出現(xiàn)提醒行人或非機(jī)動(dòng)車(chē)越線、闖紅燈等行為的“AI交警”，實(shí)現(xiàn)了交警警力的24小時(shí)守候。但愿未來(lái)的人工智能技術(shù)，不再與“惹禍”“侵權(quán)”之類(lèi)相伴，而是成為賦能美好生活的代名詞，給公眾更多幸福感、獲得感、安全感。

關(guān)鍵詞：