公安機(jī)關(guān)查處網(wǎng)絡(luò)謠言丨AI 背后的陷阱：有圖未必有真相，警惕謠言 “新偽裝”

真實(shí)案例

 

2024年8月，一則令人震驚的消息在網(wǎng)絡(luò)上迅速傳播。“南平松溪縣遭遇嚴(yán)重大風(fēng)襲擊，造成棗嶺街一人死亡”。這則消息圖文并茂，甚至還有逼真的視頻片段，一時(shí)間引得大量網(wǎng)民關(guān)注和轉(zhuǎn)發(fā)。但經(jīng)公安機(jī)關(guān)核查發(fā)現(xiàn)，這竟然是用 AI編造而成的網(wǎng)絡(luò)謠言視頻。

經(jīng)查，該謠言系發(fā)布者周某為博取關(guān)注、獲取流量，通過AI軟件生成的。周某對圖片和視頻剪輯拼湊后，制造出“有圖片”“有文字”“有聲音”的虛假信息，發(fā)布至網(wǎng)絡(luò)平臺上，造成社會不良影響。

公安機(jī)關(guān)依法對周某給予行政處罰。

案例分析

造謠者利用AI低成本、高效率、操作簡單的特點(diǎn)，通過提供關(guān)鍵字，AI軟件便會自動在網(wǎng)絡(luò)上抓取相關(guān)信息，以熱點(diǎn)新聞和隨機(jī)網(wǎng)絡(luò)音視頻為素材，批量化生產(chǎn)網(wǎng)絡(luò)謠言，投放到各大網(wǎng)絡(luò)平臺上，實(shí)現(xiàn)吸引眼球或流量變現(xiàn)的目的。謠言的傳播率和影響力成倍增加。

當(dāng)謠言披上AI的外衣時(shí)，不但能自動生成文本，還能生成逼近真實(shí)的圖片和音視頻，讓不存在的場景變得栩栩如生，讓虛構(gòu)的人物仿佛真實(shí)存在一般。這就完全顛覆了我們常規(guī)認(rèn)知里的“有圖就有真相”，使我們對網(wǎng)絡(luò)謠言本身難辨其真假。

AI謠言已經(jīng)成為亟需治理的一道網(wǎng)絡(luò)新課題，那么在日常生活中，我們怎樣擦亮眼睛，識別并抵制AI謠言呢？

01

好奇之心要適度：面對新奇夸張的信息，先別急著一探究竟，AI就是選擇、抓取大家關(guān)注話題來制造網(wǎng)絡(luò)謠言，利用網(wǎng)民好奇心進(jìn)行傳播。

02

來源不明不輕信：切記不要盲目相信和傳播未經(jīng)證實(shí)的信息。在社交媒體或網(wǎng)絡(luò)上看到可疑信息時(shí)，可以先進(jìn)行核實(shí)或者等待官方消息發(fā)布后再做判斷。

03

權(quán)威渠道常關(guān)注：在上網(wǎng)瀏覽信息時(shí)要保持對信息來源的警惕性，多訂閱官方媒體、政府部門的賬號，盡量選擇權(quán)威、可信賴的媒體或機(jī)構(gòu)作為信息來源。

04

邏輯分析不可少：注意網(wǎng)絡(luò)信息的邏輯性，如果發(fā)現(xiàn)一條信息在邏輯上存在明顯的漏洞或矛盾，它很可能是經(jīng)過篡改或杜撰的。

來源：公安部網(wǎng)安局

公安機(jī)關(guān)查處網(wǎng)絡(luò)謠言丨AI 背后的陷阱：有圖未必有真相，警惕謠言 “新偽裝”