首頁(yè) > 熱點(diǎn)關(guān)注 > 正文

公安機(jī)關(guān)查處網(wǎng)絡(luò)謠言丨AI 背后的陷阱:有圖未必有真相,警惕謠言 “新偽裝”

稿件來(lái)源: 發(fā)布時(shí)間:2024-08-22 14:25:13

近年來(lái),AI技術(shù)發(fā)展迅速,成為全球科技領(lǐng)域的熱點(diǎn)。AI已經(jīng)從單純的學(xué)術(shù)研究發(fā)展成為改變?nèi)祟惿罘绞降闹匾α。然而,卻有一些別有用心之人將其變?yōu)樵熘{、斂財(cái)?shù)墓ぞ摺?/span>

真實(shí)案例

 

2024年8月,一則令人震驚的消息在網(wǎng)絡(luò)上迅速傳播。“南平松溪縣遭遇嚴(yán)重大風(fēng)襲擊,造成棗嶺街一人死亡”。這則消息圖文并茂,甚至還有逼真的視頻片段,一時(shí)間引得大量網(wǎng)民關(guān)注和轉(zhuǎn)發(fā)。但經(jīng)公安機(jī)關(guān)核查發(fā)現(xiàn),這竟然是用 AI編造而成的網(wǎng)絡(luò)謠言視頻。

經(jīng)查,該謠言系發(fā)布者周某為博取關(guān)注、獲取流量,通過AI軟件生成的。周某對(duì)圖片和視頻剪輯拼湊后,制造出“有圖片”“有文字”“有聲音”的虛假信息,發(fā)布至網(wǎng)絡(luò)平臺(tái)上,造成社會(huì)不良影響。

公安機(jī)關(guān)依法對(duì)周某給予行政處罰。

 

案例分析

造謠者利用AI低成本、高效率、操作簡(jiǎn)單的特點(diǎn),通過提供關(guān)鍵字,AI軟件便會(huì)自動(dòng)在網(wǎng)絡(luò)上抓取相關(guān)信息,以熱點(diǎn)新聞和隨機(jī)網(wǎng)絡(luò)音視頻為素材,批量化生產(chǎn)網(wǎng)絡(luò)謠言,投放到各大網(wǎng)絡(luò)平臺(tái)上,實(shí)現(xiàn)吸引眼球或流量變現(xiàn)的目的。謠言的傳播率和影響力成倍增加。

當(dāng)謠言披上AI的外衣時(shí),不但能自動(dòng)生成文本,還能生成逼近真實(shí)的圖片和音視頻,讓不存在的場(chǎng)景變得栩栩如生,讓虛構(gòu)的人物仿佛真實(shí)存在一般。這就完全顛覆了我們常規(guī)認(rèn)知里的“有圖就有真相”,使我們對(duì)網(wǎng)絡(luò)謠言本身難辨其真假。

AI謠言已經(jīng)成為亟需治理的一道網(wǎng)絡(luò)新課題,那么在日常生活中,我們?cè)鯓硬亮裂劬,識(shí)別并抵制AI謠言呢?

 

01

好奇之心要適度:面對(duì)新奇夸張的信息,先別急著一探究竟,AI就是選擇、抓取大家關(guān)注話題來(lái)制造網(wǎng)絡(luò)謠言,利用網(wǎng)民好奇心進(jìn)行傳播。

02

來(lái)源不明不輕信:切記不要盲目相信和傳播未經(jīng)證實(shí)的信息。在社交媒體或網(wǎng)絡(luò)上看到可疑信息時(shí),可以先進(jìn)行核實(shí)或者等待官方消息發(fā)布后再做判斷。

03

權(quán)威渠道常關(guān)注:在上網(wǎng)瀏覽信息時(shí)要保持對(duì)信息來(lái)源的警惕性,多訂閱官方媒體、政府部門的賬號(hào),盡量選擇權(quán)威、可信賴的媒體或機(jī)構(gòu)作為信息來(lái)源。

04

邏輯分析不可少:注意網(wǎng)絡(luò)信息的邏輯性,如果發(fā)現(xiàn)一條信息在邏輯上存在明顯的漏洞或矛盾,它很可能是經(jīng)過篡改或杜撰的。

來(lái)源:公安部網(wǎng)安局

公安機(jī)關(guān)查處網(wǎng)絡(luò)謠言丨AI 背后的陷阱:有圖未必有真相,警惕謠言 “新偽裝”