真相來了丨“地震被壓在廢墟下的小男孩”居然是AI生成的

1月7日9時許，西藏日喀則市定日縣發(fā)生的6.8級地震，牽動著大家的心。但與此同時，一些網(wǎng)友為了博取流量制造關(guān)于震區(qū)的不實(shí)信息，在網(wǎng)絡(luò)上公然傳播，對公眾造成誤導(dǎo)。

其中，有一張“被壓在廢墟下的小男孩”的圖片在網(wǎng)上引發(fā)了廣泛關(guān)注。圖片中，一名戴帽子的小男孩被壓在倒塌的廢墟之下，全身鋪滿塵埃。不少網(wǎng)友被圖片視頻誤導(dǎo)，紛紛在留言區(qū)關(guān)注男孩的生命安全。而實(shí)際上這張照片是由AI生成的。究竟怎么一回事？來看記者的調(diào)查。

記者采訪AI圖片創(chuàng)作者還原事情真相

圖片中，一名戴帽子的小男孩被壓在倒塌的廢墟下，全身鋪滿塵埃。但記者注意到，有不少網(wǎng)友被圖片視頻造成誤導(dǎo)，并在留言區(qū)關(guān)注男孩的生命安全。

有網(wǎng)友留言稱，“有小孩被壓還不趕緊搶救”，有人表示“心都碎了”……

而實(shí)際上，這張圖片是由AI生成，圖中孩子的左手顯示為六根手指。記者聯(lián)系到該AI圖片的創(chuàng)作者何先生，對方給記者提供了原始版的AI生成視頻，短視頻截圖顯示，這段視頻在去年11月發(fā)布，并非本次西藏地震期間發(fā)布。

當(dāng)事人：有自媒體涉嫌盜用AI生成素材

何先生告訴記者，自己創(chuàng)作這段AI圖片和視頻的起因，是看到加沙戰(zhàn)爭地區(qū)的孩子家園遭到破壞、流離失所，希望通過視頻傳遞和平愿望。但他沒有想到，自己發(fā)布在短視頻平臺上的素材遭到他人盜用，并和西藏地震進(jìn)行了關(guān)聯(lián)。

“被壓廢墟下的小男孩”AI視頻創(chuàng)作者 何先生：創(chuàng)作的原因是看到國外有戰(zhàn)爭，為了反映戰(zhàn)爭廢墟下孩子們的生存環(huán)境。我不是為了拿它來宣傳、造謠，但這個網(wǎng)絡(luò)搬運(yùn)內(nèi)容的事情很惡劣?，F(xiàn)在我在所有平臺把作品的下載功能都關(guān)閉了，就是為了防止別人盜走視頻。

“假圖”關(guān)聯(lián)真實(shí)事件 違背社會公序良俗

地震救援現(xiàn)場牽動著全社會，而沒承想，何先生去年11月發(fā)布的視頻被人移花接木，將此次地震相關(guān)的信息肆意拼湊，這種用災(zāi)難博取流量的行為，令人憤慨。有法律人士表示，用“假圖”關(guān)聯(lián)真實(shí)事件的行為違背了社會公序良俗，有擾亂社會秩序之嫌，將面臨法律處罰。

中國慈善聯(lián)合會法律顧問 張凌霄：自媒體是盜用了別人的AI制品，在抗震救災(zāi)突發(fā)事件當(dāng)中來博取眼球，吸引流量，構(gòu)成治安管理處罰，嚴(yán)重的會構(gòu)成犯罪。同時因?yàn)樗昧司葹?zāi)的心理，是違反社會的公序良俗和道德最基本的要求。

律師 張曉玲：根據(jù)相關(guān)法律法規(guī)，編造虛假的險情、疫情、災(zāi)情、警情，在信息網(wǎng)絡(luò)或者其他媒體上傳播，或者明知是上述虛假信息，故意在信息網(wǎng)絡(luò)或者其他媒體上傳播，嚴(yán)重?cái)_亂社會秩序的，處三年以下有期徒刑、拘役或者管制；造成嚴(yán)重后果的，處三年以上七年以下有期徒刑。

軟件30秒“編造”地震報(bào)道 未標(biāo)注AI生成

記者也試著用了一款剪輯軟件，只用30秒就生成了一則所謂的“地震報(bào)道”。

記者在一款用戶量龐大的剪輯軟件中，使用其提供的AI視頻生成功能，輸入一句關(guān)于小女孩在地震中被救出的文字描述，不到30秒鐘，軟件就生成了一段20秒左右的視頻，并提供畫外音解說。視頻中并未標(biāo)注“AI生成”字樣，軟件也沒有要求用戶添加這樣的標(biāo)識。

而在引發(fā)大量關(guān)注的“被壓廢墟下的小男孩”圖片和視頻中，創(chuàng)作者何先生也告訴記者，AI軟件沒有強(qiáng)制要求標(biāo)注“AI生成”字樣，是自己在視頻上方添加了水印，但后來被盜用者刪掉了水印。

有人工智能研究者表示，目前亟須建立統(tǒng)一的規(guī)范要求，避免AI以假亂真。

吉林大學(xué)人工智能學(xué)院院長 宋軒：無論是我們個人上傳的相關(guān)的由AI生成的視頻或者圖像，還是由軟件包括平臺發(fā)布的等等相關(guān)的AI生成的內(nèi)容，我覺得必須遵守披露和聲明原則。所有的內(nèi)容如果是由AI生成的，無論是在生成的過程中，還是上傳的過程中，需要進(jìn)行聲明和披露，就是要明確標(biāo)注出來，說這個內(nèi)容是由AI生成的。我覺得對于個人用戶，這也是我們在使用AI的過程中應(yīng)該遵守的一個基本原則，一個道德準(zhǔn)則。

AI軟件生成的內(nèi)容是否需要主動標(biāo)注？

那么，由AI軟件生成的圖片和視頻，究竟該不該主動標(biāo)注由AI生成？

去年9月，國家互聯(lián)網(wǎng)信息辦公室發(fā)布關(guān)于《人工智能生成合成內(nèi)容標(biāo)識辦法（征求意見稿）》，其中提到：

• 在圖片的適當(dāng)位置添加顯著的提示標(biāo)識；

• 在視頻起始畫面和視頻播放周邊的適當(dāng)位置添加顯著的提示標(biāo)識，可在視頻末尾和中間適當(dāng)位置添加顯著的提示標(biāo)識。

而在此次新聞事件中記者發(fā)現(xiàn)，原本AI視頻的發(fā)布者標(biāo)注了AI生成，而在他人盜用過程中，卻對AI生成的標(biāo)注信息進(jìn)行了模糊，從而誤導(dǎo)了受眾。

平臺加強(qiáng)監(jiān)管 AI時代守好信息真實(shí)底線

除了AI生成軟件和生成者要肩負(fù)起自己的責(zé)任，專家指出，還要在監(jiān)管方面，發(fā)展AI技術(shù)來破解、識別AI造謠；相關(guān)的立法、執(zhí)法也需要加強(qiáng)，并在全社會要加強(qiáng)相關(guān)人員的教育和科普工作，讓公眾的辨別力更高。

中國人民大學(xué)新聞與社會發(fā)展中心研究員 曾持：“生成式AI”的拼接本質(zhì)和謠言有很強(qiáng)的親近性，二者都屬于“無中生有”——創(chuàng)造看起來真實(shí)合理的信息。AI讓造謠更加簡單和“科學(xué)”了，因?yàn)锳I會根據(jù)熱點(diǎn)事件總結(jié)規(guī)律、拼接情節(jié)，很快就能制作出符合人們“期待”的謠言，讓傳播更加迅速。

專家也指出，目前，平臺審核機(jī)制存在一定滯后性，未能及時有效識別AI虛構(gòu)圖片，對自媒體賬號發(fā)布內(nèi)容監(jiān)管不力，特別是在涉及災(zāi)害等敏感話題時，更應(yīng)加強(qiáng)審核力度。未來需要利用技術(shù)手段、人工審核等多方式加強(qiáng)對地震等突發(fā)信息的管控。

律師 張曉玲：平臺應(yīng)該改進(jìn)審核機(jī)制，提高審核效率，并使用更加直觀有效的提示方式，避免虛假信息的傳播。

中國人民大學(xué)新聞與社會發(fā)展中心研究員 曾持：在現(xiàn)在的技術(shù)情況下，平臺只能事后懲罰。但是現(xiàn)代社會的傳播速度又太快了，造成的影響太迅速，所以很難在源頭上根治AI造謠的影響。我覺得將來監(jiān)管要從兩個方向努力：

• 第一是要讓人們認(rèn)識到，不管是通過AI，還是通過其他工具手段技術(shù)，造謠宣傳假新聞都是違法犯罪的行為；

• 第二是將來AI技術(shù)要跟平臺更緊密地聯(lián)系在一起，平臺要能根據(jù)AI新工具，來反向識別由AI拼造的假圖片和假新聞。

•