除了一些AI造謠信息，還有些不法分子利用AI技術(shù)盯上了你的錢包,。

前不久,，有受害者反映，自己付費(fèi)10000元加入“薦股”咨詢?nèi)?，群?nèi)“大佬”說中國(guó)要大力發(fā)展國(guó)防軍工,，制造業(yè)要遷到四川地區(qū)來，于是他重倉(cāng)買入“大佬”推薦的股票,，結(jié)果不僅沒有大漲 反而一路下跌,。

經(jīng)警方調(diào)查，這些所謂的股票利好消息,，其實(shí)是利用AI生成的虛假信息,。花一萬(wàn)多元的學(xué)費(fèi),，得到的所謂炒股知識(shí),、內(nèi)幕消息，不過是騙子在利益驅(qū)使下炮制而來的虛假信息,。

目前,，警方已抓獲15名犯罪嫌疑人。

假新聞并非新生事物,，但AI大模型的崛起,，無(wú)疑大幅降低了造假的門檻。

如今,，只需與AI智能助手進(jìn)行簡(jiǎn)短對(duì)話,，幾秒鐘內(nèi)便能生成一篇圖文并茂的假新聞。

 使用AI工具,，1分鐘便可制造一篇AI假新聞,、AI圖片。圖源：網(wǎng)信浙江

而在多起AI造謠事件背后,，造謠者的動(dòng)機(jī)主要源于引流和借此牟利,。網(wǎng)警總結(jié)了四種典型AI謠言場(chǎng)景。

1.偽造熱點(diǎn)事件

用AI生成“某地重大事故”圖文/視頻

配煽動(dòng)性標(biāo)題博流量

2025年1月7日,，西藏日喀則市定日縣發(fā)生6.8級(jí)地震,，震后，一張“小孩被壓廢墟下”的圖片被大量轉(zhuǎn)發(fā),。后經(jīng)查證,，圖片是由AI生成,，圖中人物甚至有6根手指。

2.捏造名人言論

篡改語(yǔ)音,、合成視頻假借權(quán)威人士發(fā)布虛假政策解讀

3.炮制偽科普

利用AI生成“科學(xué)數(shù)據(jù)”兜售偽劣產(chǎn)品（如“AI檢測(cè)抗癌神藥”）

2024年年底,，有網(wǎng)友稱在網(wǎng)絡(luò)賣貨視頻中看到知名醫(yī)生張文宏在售賣一種蛋白棒產(chǎn)品。在帶貨視頻中,，被合成的人像反復(fù)介紹一種產(chǎn)品,，聲音聽起來很像張文宏本人。對(duì)此,，張文宏回應(yīng)稱,，這樣的賣貨賬號(hào)不止一個(gè)，而且一直在變,，他多次向平臺(tái)投訴但屢禁不絕,。

4.嫁接虛假證據(jù)

將無(wú)關(guān)圖片通過AI換臉/換背景

捏造“維權(quán)證據(jù)”“聊天記錄”等

如何識(shí)別AI謠言,？

這些要點(diǎn)請(qǐng)記住↓↓↓

警惕無(wú)明確作者,、無(wú)正規(guī)信源的內(nèi)容

AI生成信息常偽裝成“網(wǎng)友投稿”“內(nèi)部消息”

AI圖像：觀察手指數(shù)量異常、光影不自然等,；

AI視頻：注意口型與聲音不同步,、背景模糊扭曲。

AI生成謠言常出現(xiàn)時(shí)間矛盾

（如“2024年政策”引用2025年數(shù)據(jù)）地名錯(cuò)誤等

4.用工具

關(guān)注官方賬號(hào)公布的打謠信息或通過“中國(guó)互聯(lián)網(wǎng)聯(lián)合辟謠平臺(tái)”等渠道一鍵驗(yàn)證

還有一條好消息

為了促進(jìn)人工智能健康發(fā)展

規(guī)范人工智能生成合成內(nèi)容標(biāo)識(shí)

《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》

正式發(fā)布,，9月1日正式施行

屆時(shí),，AI生成合成內(nèi)容必須添加顯式標(biāo)識(shí)

讓我們以理性駕馭AI

用法律守護(hù)底線

共同維護(hù)網(wǎng)絡(luò)清朗空間