AI技術(shù)正在逐漸改變我們的生活方式,提升工作效率,為解決問題提供新途徑。但與此同時,個別人在利用AI技術(shù)時走向迷途,借助AI工具生產(chǎn)仿真度高的虛假信息,在網(wǎng)絡(luò)上迅速傳播。3月20日,太原網(wǎng)警提醒廣大網(wǎng)民,以理性駕馭AI,用法律守護(hù)底線,攜手傳遞正能量,勿讓“神器”變“兇器”。
3月10日以來,一則“有頂流明星在澳門輸了10億”的信息在互聯(lián)網(wǎng)平臺傳播,引發(fā)網(wǎng)民熱議和各種猜測,相關(guān)話題頻繁登上社交媒體熱搜熱榜。
公安網(wǎng)安部門查明,網(wǎng)民徐某強(qiáng)(男,36歲)為博取流量、牟取非法利益,于2025年3月10日10時,使用軟件“某書”中AI智慧生成功能,輸入社會熱點(diǎn)詞制作了標(biāo)題為“頂流明星被曝境外豪賭輸光10億身家引發(fā)輿論海嘯”的謠言信息,并通過互聯(lián)網(wǎng)平臺對外發(fā)布,造成謠言迅速傳播擴(kuò)散,引發(fā)大量網(wǎng)民議論,誘發(fā)相關(guān)謠言、話題等頻繁登上熱搜熱榜,嚴(yán)重擾亂公共秩序。公安機(jī)關(guān)根據(jù)相關(guān)法律法規(guī),對徐某強(qiáng)處以行政拘留8日的處罰。
隨著科技的發(fā)展,利用AI發(fā)布虛假信息“博眼球”屢見不鮮。有人偽造熱點(diǎn)事件,用AI生成“某地重大事故”圖文或者視頻,再配上煽動性的標(biāo)題博流量;有人捏造名人言論,篡改語音、合成視頻,假借權(quán)威人士發(fā)布虛假政策解讀;有人炮制偽科普,利用AI生成“科學(xué)數(shù)據(jù)”,兜售偽劣產(chǎn)品(如“AI檢測抗癌神藥”);甚至有人嫁接虛假證據(jù),將無關(guān)圖片通過AI換臉或者換背景,捏造“維權(quán)證據(jù)”“聊天記錄”。
作為一種新型謠言傳播趨勢與犯罪手段,“AI造謠”擾亂了輿論秩序,危害經(jīng)濟(jì)和社會平穩(wěn)運(yùn)行,給網(wǎng)絡(luò)謠言治理帶來了新挑戰(zhàn)。2024年,山西公安組織“凈網(wǎng)”專項行動,嚴(yán)打網(wǎng)絡(luò)違法犯罪,偵辦涉網(wǎng)案件3200余起;開展打擊整治網(wǎng)絡(luò)謠言專項行動,偵辦網(wǎng)絡(luò)謠言案件400余起,清理網(wǎng)絡(luò)謠言信息2600余條,關(guān)停違法違規(guī)賬號9700余個;始終保持打擊侵犯公民個人信息犯罪高壓態(tài)勢,偵破案件110余起,網(wǎng)絡(luò)空間更加清朗有序。這體現(xiàn)了公安機(jī)關(guān)打擊“AI造謠”毫不手軟的態(tài)度,以及護(hù)航經(jīng)濟(jì)社會高質(zhì)量發(fā)展的堅定決心。
作為普通網(wǎng)民,如何識別AI謠言?網(wǎng)警教你四步識別:首先是查源頭,警惕無明確作者、無正規(guī)信源的內(nèi)容,AI生成信息常偽裝成“網(wǎng)友投稿”“內(nèi)部消息”;其次要看細(xì)節(jié),如果是AI圖像,觀察人物手指數(shù)量有無異常,光影是否自然等,如果是AI視頻,則需注意人物口型與聲音是否同步、背景是否模糊扭曲等;再次是驗(yàn)邏輯,AI生成謠言常出現(xiàn)時間矛盾,如2024年的政策,引用的卻是2025年的數(shù)據(jù),出現(xiàn)地名錯誤等;最后要用工具,關(guān)注“公安部網(wǎng)安局”新媒體賬號打謠信息,或通過“中國互聯(lián)網(wǎng)聯(lián)合辟謠平臺”“騰訊較真”等渠道一鍵驗(yàn)證。
太原網(wǎng)警在此提醒:互聯(lián)網(wǎng)并非法外之地,要嚴(yán)守法律紅線,不利用AI偽造公文、證件,不生成謠言、暴力等違法信息。遇到所謂的“爆炸性新聞”,不輕信、不轉(zhuǎn)發(fā)、不擴(kuò)散。通過官方平臺驗(yàn)證信息,發(fā)現(xiàn)AI謠言立即舉報,保存證據(jù)協(xié)助溯源。使用者應(yīng)主動標(biāo)注AI生成內(nèi)容,人人爭做“謠言粉碎者”,共同維護(hù)清朗網(wǎng)絡(luò)空間。