1月7日9時(shí)許，西藏日喀則市定日縣發(fā)生的6.8級(jí)地震，牽動(dòng)著大家的心。但與此同時(shí)，一些網(wǎng)友為了博取流量制造關(guān)于震區(qū)的不實(shí)信息，在網(wǎng)絡(luò)上公然傳播，對(duì)公眾造成誤導(dǎo)。

其中，有一張“被壓在廢墟下的小男孩”的圖片在網(wǎng)上引發(fā)了廣泛關(guān)注。圖片中，一名戴帽子的小男孩被壓在倒塌的廢墟之下，全身鋪滿(mǎn)塵埃。不少網(wǎng)友被圖片視頻誤導(dǎo)，紛紛在留言區(qū)關(guān)注男孩的生命安全。而實(shí)際上這張照片是由AI生成的。究竟怎么一回事？來(lái)看記者的調(diào)查。

記者采訪(fǎng)AI圖片創(chuàng)作者還原事情真相

圖片中，一名戴帽子的小男孩被壓在倒塌的廢墟下，全身鋪滿(mǎn)塵埃。但記者注意到，有不少網(wǎng)友被圖片視頻造成誤導(dǎo)，并在留言區(qū)關(guān)注男孩的生命安全。

有網(wǎng)友留言稱(chēng)，“有小孩被壓還不趕緊搶救”，有人表示“心都碎了”……

而實(shí)際上，這張圖片是由AI生成，圖中孩子的左手顯示為六根手指。記者聯(lián)系到該AI圖片的創(chuàng)作者何先生，對(duì)方給記者提供了原始版的AI生成視頻，短視頻截圖顯示，這段視頻在去年11月發(fā)布，并非本次西藏地震期間發(fā)布。

當(dāng)事人：有自媒體涉嫌盜用AI生成素材

何先生告訴記者，自己創(chuàng)作這段AI圖片和視頻的起因，是看到加沙戰(zhàn)爭(zhēng)地區(qū)的孩子家園遭到破壞、流離失所，希望通過(guò)視頻傳遞和平愿望。但他沒(méi)有想到，自己發(fā)布在短視頻平臺(tái)上的素材遭到他人盜用，并和西藏地震進(jìn)行了關(guān)聯(lián)。

“被壓廢墟下的小男孩”AI視頻創(chuàng)作者 何先生：創(chuàng)作的原因是看到國(guó)外有戰(zhàn)爭(zhēng)，為了反映戰(zhàn)爭(zhēng)廢墟下孩子們的生存環(huán)境。我不是為了拿它來(lái)宣傳、造謠，但這個(gè)網(wǎng)絡(luò)搬運(yùn)內(nèi)容的事情很惡劣。現(xiàn)在我在所有平臺(tái)把作品的下載功能都關(guān)閉了，就是為了防止別人盜走視頻。

“假圖”關(guān)聯(lián)真實(shí)事件 違背社會(huì)公序良俗

地震救援現(xiàn)場(chǎng)牽動(dòng)著全社會(huì)，而沒(méi)承想，何先生去年11月發(fā)布的視頻被人移花接木，將此次地震相關(guān)的信息肆意拼湊，這種用災(zāi)難博取流量的行為，令人憤慨。有法律人士表示，用“假圖”關(guān)聯(lián)真實(shí)事件的行為違背了社會(huì)公序良俗，有擾亂社會(huì)秩序之嫌，將面臨法律處罰。

中國(guó)慈善聯(lián)合會(huì)法律顧問(wèn) 張凌霄：自媒體是盜用了別人的AI制品，在抗震救災(zāi)突發(fā)事件當(dāng)中來(lái)博取眼球，吸引流量，構(gòu)成治安管理處罰，嚴(yán)重的會(huì)構(gòu)成犯罪。同時(shí)因?yàn)樗昧司葹?zāi)的心理，是違反社會(huì)的公序良俗和道德最基本的要求。

律師 張曉玲：根據(jù)相關(guān)法律法規(guī)，編造虛假的險(xiǎn)情、疫情、災(zāi)情、警情，在信息網(wǎng)絡(luò)或者其他媒體上傳播，或者明知是上述虛假信息，故意在信息網(wǎng)絡(luò)或者其他媒體上傳播，嚴(yán)重?cái)_亂社會(huì)秩序的，處三年以下有期徒刑、拘役或者管制；造成嚴(yán)重后果的，處三年以上七年以下有期徒刑。

軟件30秒“編造”地震報(bào)道 未標(biāo)注AI生成

記者也試著用了一款剪輯軟件，只用30秒就生成了一則所謂的“地震報(bào)道”。

記者在一款用戶(hù)量龐大的剪輯軟件中，使用其提供的AI視頻生成功能，輸入一句關(guān)于小女孩在地震中被救出的文字描述，不到30秒鐘，軟件就生成了一段20秒左右的視頻，并提供畫(huà)外音解說(shuō)。視頻中并未標(biāo)注“AI生成”字樣，軟件也沒(méi)有要求用戶(hù)添加這樣的標(biāo)識(shí)。

而在引發(fā)大量關(guān)注的“被壓廢墟下的小男孩”圖片和視頻中，創(chuàng)作者何先生也告訴記者，AI軟件沒(méi)有強(qiáng)制要求標(biāo)注“AI生成”字樣，是自己在視頻上方添加了水印，但后來(lái)被盜用者刪掉了水印。

有人工智能研究者表示，目前亟須建立統(tǒng)一的規(guī)范要求，避免AI以假亂真。

吉林大學(xué)人工智能學(xué)院院長(zhǎng) 宋軒：無(wú)論是我們個(gè)人上傳的相關(guān)的由AI生成的視頻或者圖像，還是由軟件包括平臺(tái)發(fā)布的等等相關(guān)的AI生成的內(nèi)容，我覺(jué)得必須遵守披露和聲明原則。所有的內(nèi)容如果是由AI生成的，無(wú)論是在生成的過(guò)程中，還是上傳的過(guò)程中，需要進(jìn)行聲明和披露，就是要明確標(biāo)注出來(lái)，說(shuō)這個(gè)內(nèi)容是由AI生成的。我覺(jué)得對(duì)于個(gè)人用戶(hù)，這也是我們?cè)谑褂肁I的過(guò)程中應(yīng)該遵守的一個(gè)基本原則，一個(gè)道德準(zhǔn)則。

AI軟件生成的內(nèi)容是否需要主動(dòng)標(biāo)注？

那么，由AI軟件生成的圖片和視頻，究竟該不該主動(dòng)標(biāo)注由AI生成？

去年9月，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布關(guān)于《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見(jiàn)稿）》，其中提到：

• 在圖片的適當(dāng)位置添加顯著的提示標(biāo)識(shí)；

• 在視頻起始畫(huà)面和視頻播放周邊的適當(dāng)位置添加顯著的提示標(biāo)識(shí)，可在視頻末尾和中間適當(dāng)位置添加顯著的提示標(biāo)識(shí)。

而在此次新聞事件中記者發(fā)現(xiàn)，原本AI視頻的發(fā)布者標(biāo)注了AI生成，而在他人盜用過(guò)程中，卻對(duì)AI生成的標(biāo)注信息進(jìn)行了模糊，從而誤導(dǎo)了受眾。

平臺(tái)加強(qiáng)監(jiān)管 AI時(shí)代守好信息真實(shí)底線(xiàn)

除了AI生成軟件和生成者要肩負(fù)起自己的責(zé)任，專(zhuān)家指出，還要在監(jiān)管方面，發(fā)展AI技術(shù)來(lái)破解、識(shí)別AI造謠；相關(guān)的立法、執(zhí)法也需要加強(qiáng)，并在全社會(huì)要加強(qiáng)相關(guān)人員的教育和科普工作，讓公眾的辨別力更高。

中國(guó)人民大學(xué)新聞與社會(huì)發(fā)展中心研究員 曾持：“生成式AI”的拼接本質(zhì)和謠言有很強(qiáng)的親近性，二者都屬于“無(wú)中生有”——?jiǎng)?chuàng)造看起來(lái)真實(shí)合理的信息。AI讓造謠更加簡(jiǎn)單和“科學(xué)”了，因?yàn)锳I會(huì)根據(jù)熱點(diǎn)事件總結(jié)規(guī)律、拼接情節(jié)，很快就能制作出符合人們“期待”的謠言，讓傳播更加迅速。

專(zhuān)家也指出，目前，平臺(tái)審核機(jī)制存在一定滯后性，未能及時(shí)有效識(shí)別AI虛構(gòu)圖片，對(duì)自媒體賬號(hào)發(fā)布內(nèi)容監(jiān)管不力，特別是在涉及災(zāi)害等敏感話(huà)題時(shí)，更應(yīng)加強(qiáng)審核力度。未來(lái)需要利用技術(shù)手段、人工審核等多方式加強(qiáng)對(duì)地震等突發(fā)信息的管控。

律師 張曉玲：平臺(tái)應(yīng)該改進(jìn)審核機(jī)制，提高審核效率，并使用更加直觀(guān)有效的提示方式，避免虛假信息的傳播。

中國(guó)人民大學(xué)新聞與社會(huì)發(fā)展中心研究員 曾持：在現(xiàn)在的技術(shù)情況下，平臺(tái)只能事后懲罰。但是現(xiàn)代社會(huì)的傳播速度又太快了，造成的影響太迅速，所以很難在源頭上根治AI造謠的影響。我覺(jué)得將來(lái)監(jiān)管要從兩個(gè)方向努力：

• 第一是要讓人們認(rèn)識(shí)到，不管是通過(guò)AI，還是通過(guò)其他工具手段技術(shù)，造謠宣傳假新聞都是違法犯罪的行為；

• 第二是將來(lái)AI技術(shù)要跟平臺(tái)更緊密地聯(lián)系在一起，平臺(tái)要能根據(jù)AI新工具，來(lái)反向識(shí)別由AI拼造的假圖片和假新聞。

•