除了一些AI造謠信息，還有些不法分子利用AI技術(shù)盯上了你的錢包。

前不久，有受害者反映，自己付費(fèi)10000元加入“薦股”咨詢?nèi)海簝?nèi)“大佬”說中國要大力發(fā)展國防軍工，制造業(yè)要遷到四川地區(qū)來，于是他重倉買入“大佬”推薦的股票，結(jié)果不僅沒有大漲 反而一路下跌。

經(jīng)警方調(diào)查，這些所謂的股票利好消息，其實(shí)是利用AI生成的虛假信息。花一萬多元的學(xué)費(fèi)，得到的所謂炒股知識(shí)、內(nèi)幕消息，不過是騙子在利益驅(qū)使下炮制而來的虛假信息。

目前，警方已抓獲15名犯罪嫌疑人。

假新聞并非新生事物，但AI大模型的崛起，無疑大幅降低了造假的門檻。

如今，只需與AI智能助手進(jìn)行簡(jiǎn)短對(duì)話，幾秒鐘內(nèi)便能生成一篇圖文并茂的假新聞。

 使用AI工具，1分鐘便可制造一篇AI假新聞、AI圖片。圖源：網(wǎng)信浙江

而在多起AI造謠事件背后，造謠者的動(dòng)機(jī)主要源于引流和借此牟利。網(wǎng)警總結(jié)了四種典型AI謠言場(chǎng)景。

1.偽造熱點(diǎn)事件

用AI生成“某地重大事故”圖文/視頻

配煽動(dòng)性標(biāo)題博流量

2025年1月7日，西藏日喀則市定日縣發(fā)生6.8級(jí)地震，震后，一張“小孩被壓廢墟下”的圖片被大量轉(zhuǎn)發(fā)。后經(jīng)查證，圖片是由AI生成，圖中人物甚至有6根手指。

2.捏造名人言論

篡改語音、合成視頻假借權(quán)威人士發(fā)布虛假政策解讀

3.炮制偽科普

利用AI生成“科學(xué)數(shù)據(jù)”兜售偽劣產(chǎn)品（如“AI檢測(cè)抗癌神藥”）

2024年年底，有網(wǎng)友稱在網(wǎng)絡(luò)賣貨視頻中看到知名醫(yī)生張文宏在售賣一種蛋白棒產(chǎn)品。在帶貨視頻中，被合成的人像反復(fù)介紹一種產(chǎn)品，聲音聽起來很像張文宏本人。對(duì)此，張文宏回應(yīng)稱，這樣的賣貨賬號(hào)不止一個(gè)，而且一直在變，他多次向平臺(tái)投訴但屢禁不絕。

4.嫁接虛假證據(jù)

將無關(guān)圖片通過AI換臉/換背景

捏造“維權(quán)證據(jù)”“聊天記錄”等

如何識(shí)別AI謠言？

這些要點(diǎn)請(qǐng)記住↓↓↓

警惕無明確作者、無正規(guī)信源的內(nèi)容

AI生成信息常偽裝成“網(wǎng)友投稿”“內(nèi)部消息”

AI圖像：觀察手指數(shù)量異常、光影不自然等；

AI視頻：注意口型與聲音不同步、背景模糊扭曲。

AI生成謠言常出現(xiàn)時(shí)間矛盾

（如“2024年政策”引用2025年數(shù)據(jù)）地名錯(cuò)誤等

4.用工具

關(guān)注官方賬號(hào)公布的打謠信息或通過“中國互聯(lián)網(wǎng)聯(lián)合辟謠平臺(tái)”等渠道一鍵驗(yàn)證

還有一條好消息

為了促進(jìn)人工智能健康發(fā)展

規(guī)范人工智能生成合成內(nèi)容標(biāo)識(shí)

《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》

正式發(fā)布，9月1日正式施行

屆時(shí)，AI生成合成內(nèi)容必須添加顯式標(biāo)識(shí)

讓我們以理性駕馭AI

用法律守護(hù)底線

共同維護(hù)網(wǎng)絡(luò)清朗空間