▲在某短視頻平臺(tái)上，有多個(gè)賬號(hào)發(fā)布AI生成圖片，并和西藏日喀則地震關(guān)聯(lián)。圖/新京報(bào)我們視頻截圖
被壓在地震廢墟下的小男孩，居然是AI生成的圖片。1月7日，西藏日喀則市定日縣發(fā)生6.8級(jí)地震，災(zāi)情牽動(dòng)人心，許多網(wǎng)友在社交平臺(tái)上為災(zāi)民祈福。但與此同時(shí)，一些疑似虛假信息，比如AI生成的圖片，正在造成廣泛誤導(dǎo)。
就像這個(gè)戴帽子的小孩被重壓在倒塌的建筑物下的圖片，在某短視頻平臺(tái)，至少有10個(gè)以上賬號(hào)發(fā)布，并和日喀則地震關(guān)聯(lián)。其中一些甚至獲得好幾萬的轉(zhuǎn)評(píng)贊，很多網(wǎng)友在追問小孩怎么樣了。
而據(jù)新京報(bào)記者查證，上述圖片系由AI工具創(chuàng)作，原始作者在2024年11月18日發(fā)布了相同畫面的短視頻，并聲明是AI生成。
由此可知，這張圖片并非為蹭災(zāi)情熱度而創(chuàng)作，但多個(gè)賬號(hào)卻將其與日喀則地震進(jìn)行關(guān)聯(lián)，甚至都沒有標(biāo)記AI生成。這種做法，則是趁著公眾關(guān)心災(zāi)情博關(guān)注，有故意誤導(dǎo)之嫌。
報(bào)道中，除了這張圖，還有一些地震相關(guān)圖片，有的被作者標(biāo)注了系A(chǔ)I創(chuàng)作，有的被平臺(tái)標(biāo)記為疑似AI創(chuàng)作，有的則沒有任何提示，極可能造成事實(shí)混淆。
地震發(fā)生后，人們關(guān)注災(zāi)情和救援，最需要的是真實(shí)信息。無論使用AI生成相關(guān)災(zāi)情的圖片視頻，還是故意傳播包括AI生成之類的虛假信息，不僅是給搶險(xiǎn)救災(zāi)添亂，更有擾亂社會(huì)秩序之嫌。
事實(shí)上，每當(dāng)有災(zāi)情出現(xiàn)，就總有人為了蹭流量，不惜編造各種謠言。當(dāng)?shù)卦谌葹?zāi)之時(shí)，還要拿出大量時(shí)間和精力核實(shí)相關(guān)信息，辟謠成本可想而知。同樣，公眾對(duì)造謠、傳謠行為也深惡痛絕，尤其是涉及災(zāi)情的時(shí)候，廣泛傳播的不實(shí)信息，甚至有引發(fā)社會(huì)恐慌的風(fēng)險(xiǎn)。
如今，隨著AI技術(shù)的進(jìn)步，利用AI生成逼近真實(shí)的圖片乃至音視頻變得輕而易舉，以至于“AI造謠”成了一種新的虛假信息傳播形式，治理起來難度也更大。AI造謠借助互聯(lián)網(wǎng)廣泛傳播，在消費(fèi)公眾情感的同時(shí)，也讓社會(huì)信任成本陡然提升。
可能有人覺得，只要不是自己編造、生成的，轉(zhuǎn)發(fā)傳播一下關(guān)系不大。其實(shí)不然，在網(wǎng)絡(luò)時(shí)代，我們每個(gè)人都是信息的傳播者，而不傳播未經(jīng)證實(shí)的消息，當(dāng)是基本的媒介素養(yǎng)。具體到一條造謠傳播鏈上，始作俑者、放任傳播的平臺(tái)以及轉(zhuǎn)發(fā)的用戶，沒有一個(gè)是無辜的。
要知道，捏造、故意傳播虛假信息的行為，不論是否借助于AI，都可能涉嫌違法。若編造虛假的險(xiǎn)情、疫情、災(zāi)情、警情，在信息網(wǎng)絡(luò)或其他媒體上傳播，嚴(yán)重?cái)_亂社會(huì)秩序的，更將面臨嚴(yán)厲的刑事追責(zé)。
鑒于AI造謠具有門檻低、批量化、識(shí)別難等特點(diǎn)，治理虛假信息的手段也需要進(jìn)一步升級(jí)。對(duì)AI軟件方來說，能否將AI生成標(biāo)識(shí)強(qiáng)制標(biāo)注，從源頭減弱虛假信息的傳播效果；對(duì)平臺(tái)方而言，應(yīng)落實(shí)把關(guān)責(zé)任，針對(duì)災(zāi)害事故、社會(huì)熱點(diǎn)事件，加強(qiáng)信息篩查，常態(tài)化升級(jí)平臺(tái)甄別技術(shù)，強(qiáng)化事后懲戒，不給造謠者僥幸脫責(zé)的機(jī)會(huì)。
總之，地震災(zāi)情緊急，抗震救災(zāi)才是主旋律，別讓AI造謠來湊熱鬧。
撰稿 / 叢林（媒體人）
編輯 / 何睿
校對(duì) / 付春愔
