真實(shí)案例
2024年8月,一則令人震驚的消息在網(wǎng)絡(luò)上迅速傳播。“南平松溪縣遭遇嚴(yán)重大風(fēng)襲擊,造成棗嶺街一人死亡”。這則消息圖文并茂,甚至還有逼真的視頻片段,一時(shí)間引得大量網(wǎng)民關(guān)注和轉(zhuǎn)發(fā)。但經(jīng)公安機(jī)關(guān)核查發(fā)現(xiàn),這竟然是用 AI編造而成的網(wǎng)絡(luò)謠言視頻。
經(jīng)查,該謠言系發(fā)布者周某為博取關(guān)注、獲取流量,通過AI軟件生成的。周某對(duì)圖片和視頻剪輯拼湊后,制造出“有圖片”“有文字”“有聲音”的虛假信息,發(fā)布至網(wǎng)絡(luò)平臺(tái)上,造成社會(huì)不良影響。
公安機(jī)關(guān)依法對(duì)周某給予行政處罰。
案例分析
造謠者利用AI低成本、高效率、操作簡(jiǎn)單的特點(diǎn),通過提供關(guān)鍵字,AI軟件便會(huì)自動(dòng)在網(wǎng)絡(luò)上抓取相關(guān)信息,以熱點(diǎn)新聞和隨機(jī)網(wǎng)絡(luò)音視頻為素材,批量化生產(chǎn)網(wǎng)絡(luò)謠言,投放到各大網(wǎng)絡(luò)平臺(tái)上,實(shí)現(xiàn)吸引眼球或流量變現(xiàn)的目的。謠言的傳播率和影響力成倍增加。
當(dāng)謠言披上AI的外衣時(shí),不但能自動(dòng)生成文本,還能生成逼近真實(shí)的圖片和音視頻,讓不存在的場(chǎng)景變得栩栩如生,讓虛構(gòu)的人物仿佛真實(shí)存在一般。這就完全顛覆了我們常規(guī)認(rèn)知里的“有圖就有真相”,使我們對(duì)網(wǎng)絡(luò)謠言本身難辨其真假。
AI謠言已經(jīng)成為亟需治理的一道網(wǎng)絡(luò)新課題,那么在日常生活中,我們?cè)鯓硬亮裂劬,識(shí)別并抵制AI謠言呢?
01
好奇之心要適度:面對(duì)新奇夸張的信息,先別急著一探究竟,AI就是選擇、抓取大家關(guān)注話題來(lái)制造網(wǎng)絡(luò)謠言,利用網(wǎng)民好奇心進(jìn)行傳播。
02
來(lái)源不明不輕信:切記不要盲目相信和傳播未經(jīng)證實(shí)的信息。在社交媒體或網(wǎng)絡(luò)上看到可疑信息時(shí),可以先進(jìn)行核實(shí)或者等待官方消息發(fā)布后再做判斷。
03
權(quán)威渠道常關(guān)注:在上網(wǎng)瀏覽信息時(shí)要保持對(duì)信息來(lái)源的警惕性,多訂閱官方媒體、政府部門的賬號(hào),盡量選擇權(quán)威、可信賴的媒體或機(jī)構(gòu)作為信息來(lái)源。
04
邏輯分析不可少:注意網(wǎng)絡(luò)信息的邏輯性,如果發(fā)現(xiàn)一條信息在邏輯上存在明顯的漏洞或矛盾,它很可能是經(jīng)過篡改或杜撰的。
來(lái)源:公安部網(wǎng)安局