西藏日喀則市定日縣發(fā)生的地震災(zāi)情牽動人心，當(dāng)?shù)亓鱾鞒龅母鞣N救援畫面，更是令人揪心不已。然而，卻有一些不真實(shí)的內(nèi)容趁機(jī)渾水摸魚，利用人們的同情心進(jìn)行誤導(dǎo)、吸引流量。某視頻平臺上一位博主發(fā)布的照片顯示：一個戴帽子的小孩被壓在倒塌的建筑物下，全身鋪滿塵埃。下方文字標(biāo)簽還和西藏日喀則地震關(guān)聯(lián)。在某短視頻平臺上，至少有10個以上的賬號轉(zhuǎn)發(fā)了這張圖片，有賬戶甚至獲得好幾萬的轉(zhuǎn)發(fā)和點(diǎn)贊。

而實(shí)際上，這張小男孩的圖片是由AI生成的，圖中孩子的左手顯示為六根手指，是常見的AI圖片錯亂之處。此外，平臺也在相關(guān)圖片下方給出文字提示：“疑似使用AI生成技術(shù)，請謹(jǐn)慎甄別”。雖然平臺有提示，但仍有不少網(wǎng)友仍被誤導(dǎo)，為圖中的孩子難受落淚，甚至在評論區(qū)追問圖片中的小孩是否獲救。這并非個例，在某視頻平臺上，以“日喀則地震群眾被埋”為關(guān)鍵詞進(jìn)行搜索發(fā)現(xiàn)，不少視頻博主都發(fā)布了AI生成的災(zāi)區(qū)圖片，且都在配文中與日喀則地震關(guān)聯(lián)。

網(wǎng)友利用AI技術(shù)生成圖片，關(guān)聯(lián)地震災(zāi)區(qū)現(xiàn)場，這樣的行為是否欠妥？如果引發(fā)不良影響，該承擔(dān)哪些責(zé)任？律師劉鋒今天在接受看看新聞Knews的采訪時表示，如果這張圖片是在地震前就用AI生成并發(fā)布在社交平臺，其實(shí)并不違法。但是在地震發(fā)生后，這張照片被多個帳號轉(zhuǎn)發(fā)并誤導(dǎo)大家以為這是真實(shí)存在的，就有違新聞?wù)鎸?shí)性的原則，所以在這個時間點(diǎn)發(fā)布這樣的照片非常不妥，脫離了原來創(chuàng)作這張作品的初衷，演變成博眼球、博流量，這種行為已經(jīng)涉嫌違法。

劉鋒說，雖然發(fā)布者在圖片的下方給出了提示，但提示的字體有多大？是不是可以讓大家很清晰的看到？還有即便是備注為AI生成圖片，但發(fā)布的內(nèi)容如果是為了博眼球、吸引流量，甚至引發(fā)大家恐慌或者誤解的，就不能完全免責(zé)，我國《治安管理處罰法》明確規(guī)定，散布謠言、謊報險情、警情、擾亂社會公共秩序的，可處5天以上10天以內(nèi)拘留，并處500元以下的罰款。

如今，AI技術(shù)在給生產(chǎn)生活帶來便利的同時，也為不法分子提供了便利。AI去衣、AI換臉，不少不法分子將這些先進(jìn)的技術(shù)變成敲詐勒索的工具。今年6月，一家互聯(lián)網(wǎng)公司的技術(shù)員就利用AI技術(shù)偽造近7000張淫穢圖片進(jìn)行販賣，嫌疑人因以制作、販賣淫穢物品牟利被追究刑事責(zé)任。AI生成文字或視頻還被用于制造虛假信息。今年4月，上海長寧警方查處了一起利用AI編造女星去世短視頻的案件，對造謠者處以行政拘留3天。

以前我們都說“有圖有真相”，但隨著AI的發(fā)展，有圖也未必有真相。尤其是在出現(xiàn)重大災(zāi)情、重大事件的時候，難以避免有人利用人們的同情等情緒，將AI技術(shù)用以編偽消息、造假新聞，以此來獲得網(wǎng)民關(guān)注和點(diǎn)贊量，進(jìn)而實(shí)現(xiàn)流量變現(xiàn)。那么，我們要如何甄別 AI文章、AI圖片、AI視頻？去年9月，我國曾發(fā)布人工智能生成合成內(nèi)容的征求意見稿，規(guī)定AI生成的圖片、視頻、虛擬場景等，均應(yīng)添加顯著提示標(biāo)識；但實(shí)際上，部分發(fā)布者和平臺，為了享受AI工具帶來的流量紅利，采取睜一只眼、閉一只眼的態(tài)度。

為治理AI亂象，近年來相關(guān)部門也出臺了多項(xiàng)政策和措施。從2023年起，施行的多部管理規(guī)定明確，提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)遵守法律、尊重社會公德和倫理道德。不得侵害社會公共利益、擾亂經(jīng)濟(jì)和社會秩序。此前，一些發(fā)布者將圖文內(nèi)容移花接木、肆意編造網(wǎng)絡(luò)謠言，引發(fā)公眾關(guān)注、傳播。公安機(jī)關(guān)已經(jīng)依法追究其法律責(zé)任。這其實(shí)也是在提醒受眾，網(wǎng)絡(luò)信息魚龍混雜，你看到勁爆圖片或震撼視頻時，要留心是不是AI生成的，是不是應(yīng)該采信，都要多個心眼。

此外，對于在不少平臺，AI生成圖片及相關(guān)視頻能立刻發(fā)出，平臺審核是否應(yīng)進(jìn)一步加強(qiáng)管理？對于AI生成圖片的相關(guān)視頻立刻能發(fā)出，發(fā)出約1小時后才出現(xiàn)“疑似AI技術(shù)生成”的提示語，在律師劉峰看來，這在某種程度上說明平臺審核存在問題，其審核規(guī)則具有滯后性，提示方式也存在不夠明顯的漏洞。

劉峰還表示，平臺在發(fā)布內(nèi)容前應(yīng)進(jìn)行必要的審核，以確保信息的真實(shí)性和準(zhǔn)確性。特別是在涉及災(zāi)害等敏感話題時，更應(yīng)加強(qiáng)審核力度。且盡管有文字提示，但仍有網(wǎng)友誤解，這也進(jìn)一步說明，平臺的提示方式不夠醒目和有效。劉峰說，平臺每天有大量的文字、圖片在發(fā)布，對于平臺來說審核的壓力也很大，所以平臺適用避風(fēng)港原則，也就是說平臺只要不是惡意為之，或者說當(dāng)受害者通知平臺，平臺立即處理，也可以不承擔(dān)責(zé)任，但如果平臺對違規(guī)行為采取姑息態(tài)度，依舊需要承擔(dān)相關(guān)責(zé)任。對此，劉峰呼吁，平臺應(yīng)該改進(jìn)審核機(jī)制，提高審核效率，并采用更加直觀有效的提示方式，以避免虛假信息的傳播。