隨著生成式人工智能技術(shù)的應(yīng)用普及，越來越多的網(wǎng)民開始使用AI軟件輔助作品編輯，提升工作效率。但一些人為了吸引流量，利用AI合成技術(shù)編造謠言，甚至生成逼近真實(shí)的圖片、音視頻，顛覆了“有圖就有真相”的常規(guī)認(rèn)知，讓網(wǎng)絡(luò)謠言難辨真假。公安部部署打擊整治網(wǎng)絡(luò)謠言專項(xiàng)行動(dòng)以來，甘肅公安機(jī)關(guān)依法嚴(yán)厲打擊編造傳播網(wǎng)絡(luò)謠言違法犯罪行為，切實(shí)維護(hù)清朗網(wǎng)絡(luò)環(huán)境。現(xiàn)公布4起利用AI編造謠言典型案例：

1.慶陽公安機(jī)關(guān)依法查處黃某某編造網(wǎng)絡(luò)謠言案

2023年12月，慶陽市黃某某為賺取流量收益，將網(wǎng)上瀏覽到的慶陽合水敬老院相關(guān)信息，利用AI小程序重新生成“近日，合水縣養(yǎng)老院一名73歲退休李姓教師死在床上，身體多處受傷”的虛假信息，并在個(gè)人社交賬號(hào)發(fā)布，迅速引發(fā)網(wǎng)民關(guān)注，擾亂社會(huì)公共秩序。經(jīng)公安機(jī)關(guān)依法調(diào)查，黃某某對(duì)違法行為供認(rèn)不諱，慶陽市公安機(jī)關(guān)已依法對(duì)黃某某處以行政處罰。

2.白銀公安機(jī)關(guān)依法查處程某編造網(wǎng)絡(luò)謠言案

2024年1月，白銀市程某為博取流量吸引粉絲，在某社交平臺(tái)發(fā)布“一場強(qiáng)烈地震在甘肅省白銀市景泰縣席卷而過，給當(dāng)?shù)厝嗣駧砹顺林貫?zāi)難”的謠言文章，該謠言信息被大量轉(zhuǎn)發(fā)，引發(fā)公眾熱議，擾亂社會(huì)公共秩序。經(jīng)公安機(jī)關(guān)依法調(diào)查，程某所發(fā)謠言信息系利用AI軟件自動(dòng)生成，白銀市公安機(jī)關(guān)已依法對(duì)程某處以行政處罰。

3.隴南公安機(jī)關(guān)依法查處張某某編造網(wǎng)絡(luò)謠言案

2024年1月，隴南張某某為賺取流量收益，利用AI軟件編造“甘肅紅十字會(huì)采購暖手袋，收取160萬管理費(fèi)”“加拿大鵝捐贈(zèng)甘肅震區(qū)物資被倒賣”“大反轉(zhuǎn)！甘肅執(zhí)法隊(duì)扣押救災(zāi)貨車后續(xù)：更多細(xì)節(jié)被扒，果然有問題”等多條不實(shí)信息并在網(wǎng)絡(luò)平臺(tái)發(fā)布，擾亂社會(huì)公共秩序，造成不良影響。經(jīng)公安機(jī)關(guān)依法調(diào)查，張某某對(duì)違法行為供認(rèn)不諱，隴南公安機(jī)關(guān)已依法對(duì)張某某處以行政處罰。

4.隴南公安機(jī)關(guān)依法查處范某某編造網(wǎng)絡(luò)謠言案

2024年1月，隴南范某某為吸引流量，利用AI軟件生成“隴南八縣一區(qū)發(fā)生了一場集體示威活動(dòng)”的虛假圖文信息并在網(wǎng)絡(luò)平臺(tái)發(fā)布。該謠言信息被多次轉(zhuǎn)發(fā)，引發(fā)公眾熱議，擾亂社會(huì)公共秩序。經(jīng)公安機(jī)關(guān)依法調(diào)查，范某某對(duì)違法行為供認(rèn)不諱，隴南公安機(jī)關(guān)已依法對(duì)范某某處以行政處罰。

網(wǎng)絡(luò)不是法外之地，廣大網(wǎng)民要依法依規(guī)合理使用互聯(lián)網(wǎng)新技術(shù)、新應(yīng)用，出于惡意目的，利用AI等軟件編造虛假、違法信息，擾亂社會(huì)公共秩序的，公安機(jī)關(guān)將堅(jiān)決依法嚴(yán)厲打擊。

原文鏈接：甘肅公安依法查處利用AI人工智能技術(shù)炮制網(wǎng)絡(luò)謠言4起典型案例

來源：甘肅省公安廳政治部宣傳處