2024年10月，一則標(biāo)題為“大媽擺攤賣水果被罰16萬，監(jiān)管局回應(yīng)不交就罰145萬”的文章在網(wǎng)絡(luò)上廣為流傳，引發(fā)眾多網(wǎng)民關(guān)注和議論。經(jīng)調(diào)查，這篇文章是一家公司AI炮制出來的，它的背后，隱藏著怎樣一個(gè)產(chǎn)業(yè)鏈？

　　先尋找高熱度文章　再用AI仿寫洗稿

　　仔細(xì)查閱這篇文章可以發(fā)現(xiàn)，除了博眼球的標(biāo)題，文章內(nèi)容也非常具體，聲稱“在山東濟(jì)南，65歲吳大娘為給兒子攢錢結(jié)婚，擺攤賣水果，卻因?yàn)闆]有執(zhí)照被市場監(jiān)管局執(zhí)法人員要求罰款，如果拒絕配合還要提升賠款數(shù)額至145萬”。

　　如此聳人聽聞的描述引起了網(wǎng)友的關(guān)注。

　　經(jīng)民警查明，當(dāng)?shù)馗緵]有發(fā)生過這一事件。濟(jì)南市場監(jiān)管局隨即發(fā)布了辟謠聲明，并將相關(guān)證據(jù)提交給了警方。

　　這則虛假信息出自湖南長沙的一家傳媒公司，隨后濟(jì)南警方與長沙警方聯(lián)合辦案，發(fā)現(xiàn)這篇引發(fā)熱議的文章，居然是該傳媒公司通過AI工具生成的。

　　聚焦虛假糾紛　制造對(duì)立情緒引流獲利

　　警方調(diào)查發(fā)現(xiàn)，湖南的這家傳媒公司日常發(fā)布的文章主要聚焦虛假的社會(huì)矛盾糾紛，而之所以選擇這樣的題材，是因?yàn)樗麄儼l(fā)現(xiàn)，矛盾沖突越激烈的文章，閱讀量就越高，也更容易讓自己的賬號(hào)盈利。

　　在這家公司的運(yùn)營流程手冊(cè)上可見，法律類文章要能引起公憤，比如農(nóng)民被罰、執(zhí)法部門執(zhí)法不當(dāng)，開出天價(jià)罰款、政府霸占農(nóng)民土地不還等等，總之他們的宗旨就是：用戶看完感到憤怒的，就是一篇合格的文章。

　　提煉關(guān)鍵詞生成假信息　再人工修改細(xì)節(jié)

　　不僅原始網(wǎng)絡(luò)文章不去核實(shí)真?zhèn)危摴具€利用AI技術(shù)把未經(jīng)核實(shí)的信息直接轉(zhuǎn)到軟件上，通過AI提煉文章的核心內(nèi)容，將時(shí)間、人物、地點(diǎn)等信息作為關(guān)鍵詞再提問給AI，由AI生成一篇核心意思幾乎一樣、但具體內(nèi)容又完全不同的虛假信息，最后再由人工夸大部分細(xì)節(jié)，增加能引起觀眾情緒的內(nèi)容，一篇能夠煽動(dòng)觀眾情緒的虛假文章就出現(xiàn)了。

　　在山東濟(jì)南市場監(jiān)管局發(fā)布辟謠后，該賬號(hào)迅速刪除了這篇虛假文章。但文章造成的惡劣影響已不可挽回。

　　依據(jù)《中華人民共和國治安管理處罰法》，公安機(jī)關(guān)對(duì)代運(yùn)營該賬號(hào)的公司法定代表人李某，以及編寫該文章的員工彭某，分別處以行政拘留3日的處罰。

　　同款假信息除地點(diǎn)人物不同　內(nèi)容基本一致

　　在多個(gè)平臺(tái)輸入“擺攤”“罰款”等關(guān)鍵詞，多條各地“小攤販被相關(guān)監(jiān)管部門天價(jià)罰款”的虛假文章仍然存在。

　　這些文章都是以博眼球的罰款金額當(dāng)作標(biāo)題，內(nèi)容多為小攤販擺攤賣草莓、香蕉、煙葉等被罰款，文章除了地點(diǎn)、人物不同，其余的內(nèi)容基本一致。

　　文章聳人聽聞還有配圖　調(diào)查后發(fā)現(xiàn)是謠言

　　利用AI技術(shù)，對(duì)他人發(fā)布的文章、信息進(jìn)行抄襲、改寫、刪減、拼湊，甚至直接編造，變成偽原創(chuàng)內(nèi)容，這種行為被稱為“洗稿”。

　　2024年4月，一條內(nèi)容為“上海某地驚現(xiàn)‘骨灰房’”的文章發(fā)布在網(wǎng)絡(luò)平臺(tái)上。文章除了聳人聽聞的文字，還配有相關(guān)圖片，引發(fā)網(wǎng)友的廣泛關(guān)注和討論。

　　不過，警方調(diào)查核實(shí)后發(fā)現(xiàn)，這篇文章所講的內(nèi)容完全是不切實(shí)際的謠言，隨即立案開展調(diào)查。很快，警方找到了這篇文章的發(fā)布者王某。

　　兼職群里發(fā)布信息　教學(xué)員“洗稿”牟利

　　據(jù)發(fā)帖人王某說，一個(gè)月前，她加入了一個(gè)兼職微信群，看到有人在群里發(fā)布信息稱，可以教人在網(wǎng)絡(luò)平臺(tái)上注冊(cè)賬戶，并發(fā)帖掙錢。

　　王某看到后立即回應(yīng)了對(duì)方，表示想要參加學(xué)習(xí)，隨后便根據(jù)對(duì)方的指引注冊(cè)了某網(wǎng)絡(luò)平臺(tái)賬號(hào)。對(duì)方在傳授王某一些自媒體的學(xué)習(xí)方法后，表示會(huì)每天向王某賬戶的草稿箱里發(fā)送已經(jīng)寫好的文章，第二天再通過王某的手機(jī)將這些文字發(fā)布，只要文章有瀏覽量王某就能賺取傭金。

　　謠言稿件分發(fā)給學(xué)員　再由學(xué)員發(fā)布

　　據(jù)王某說，開始的時(shí)候，她面對(duì)賬號(hào)內(nèi)存入的信息還會(huì)瀏覽一下內(nèi)容，后來便逐漸不再對(duì)存入的文章內(nèi)容進(jìn)行關(guān)注。她每天會(huì)發(fā)布三四十條信息，而那條“上海某地驚現(xiàn)‘骨灰房’”的不實(shí)信息正是對(duì)方發(fā)給她的。

　　依據(jù)王某提供的線索，警方展開調(diào)查，一舉抓獲了為王某提供謠言文章牟利的犯罪團(tuán)伙成員徐某、羅某、闞某三人。據(jù)徐某等人交代，這條謠言并不是他們?nèi)斯ぞ帉懀抢觅徺I來的軟件自動(dòng)“洗稿”生成完成的。

　　“洗稿”后與原文查重率不超過25%

　　經(jīng)查，從2024年1月開始，徐某、羅某等人在網(wǎng)絡(luò)上以傳授兼職掙錢、薅羊毛、撿漏等為由頭，吸引招攬學(xué)員實(shí)名注冊(cè)網(wǎng)絡(luò)平臺(tái)賬號(hào)。

　　徐某等人從網(wǎng)絡(luò)中截取關(guān)注度高的熱點(diǎn)文章上傳到購買來的一款A(yù)I軟件，將這些熱點(diǎn)文章重新“洗稿”生成一篇新的偽原創(chuàng)文章。

　　據(jù)了解，經(jīng)過徐某等人“洗稿”后的文章與原文查重率不超過25%，這也是為了滿足其發(fā)布平臺(tái)的審核要求。

　　偽原創(chuàng)文章自動(dòng)分發(fā)　學(xué)員點(diǎn)擊發(fā)布即可

　　據(jù)徐某等人交代，這款軟件會(huì)將生成后的偽原創(chuàng)文章，自動(dòng)分發(fā)到學(xué)員的網(wǎng)絡(luò)平臺(tái)賬戶草稿箱內(nèi)，學(xué)員點(diǎn)擊發(fā)布即可。根據(jù)瀏覽量的不同，平臺(tái)會(huì)給文章上傳者一定的獎(jiǎng)勵(lì)，徐某團(tuán)伙通過收取一定比例的傭金，或者收取賬戶草稿箱存稿費(fèi)，實(shí)現(xiàn)牟利。

　　而這些通過“洗稿”生成的文章，如“三星堆遺址挖出航母、核潛艇”“英語退出高考”等均為不實(shí)信息，而這些明顯虛假的文章就有近千條。

　　有償發(fā)布虛假信息　掌控1100多個(gè)賬號(hào)

　　經(jīng)查，徐某等人掌握和控制的可以供發(fā)布洗稿后文章、信息的賬號(hào)，最多的時(shí)候有1100多個(gè)，共計(jì)非法獲利人民幣5萬余元。

　　檢察機(jī)關(guān)以非法經(jīng)營罪對(duì)三人提起公訴

　　檢察機(jī)關(guān)認(rèn)為，徐某、羅某、闞某三人結(jié)伙，違反國家規(guī)定，以營利為目的，編撰虛假信息，通過網(wǎng)絡(luò)有償提供發(fā)布，擾亂市場秩序，情節(jié)嚴(yán)重。

　　2024年12月，上海市寶山區(qū)人民檢察院以非法經(jīng)營罪對(duì)徐某等三人提起公訴。

　　檢察官提醒，網(wǎng)民、自媒體從業(yè)者，應(yīng)遵守法律法規(guī)和職業(yè)道德規(guī)范，尊重原創(chuàng)作品和知識(shí)產(chǎn)權(quán)，同時(shí)增強(qiáng)法律意識(shí)和自律意識(shí)，避免“洗稿”發(fā)布虛假信息等違法行為的發(fā)生。同時(shí)，相關(guān)軟件生產(chǎn)者和網(wǎng)絡(luò)平臺(tái)更應(yīng)切實(shí)負(fù)起監(jiān)管、審核職責(zé)。