AI技術(shù)正在逐漸改變我們的生活方式，提升工作效率，為解決問題提供新途徑。但與此同時，個別人在利用AI技術(shù)時走向迷途，借助AI工具生產(chǎn)仿真度高的虛假信息，在網(wǎng)絡(luò)上迅速傳播。3月20日，太原網(wǎng)警提醒廣大網(wǎng)民，以理性駕馭AI，用法律守護底線，攜手傳遞正能量，勿讓“神器”變“兇器”。
3月10日以來，一則“有頂流明星在澳門輸了10億”的信息在互聯(lián)網(wǎng)平臺傳播，引發(fā)網(wǎng)民熱議和各種猜測，相關(guān)話題頻繁登上社交媒體熱搜熱榜。
公安網(wǎng)安部門查明，網(wǎng)民徐某強(男，36歲)為博取流量、牟取非法利益，于2025年3月10日10時，使用軟件“某書”中AI智慧生成功能，輸入社會熱點詞制作了標題為“頂流明星被曝境外豪賭輸光10億身家引發(fā)輿論海嘯”的謠言信息，并通過互聯(lián)網(wǎng)平臺對外發(fā)布，造成謠言迅速傳播擴散，引發(fā)大量網(wǎng)民議論，誘發(fā)相關(guān)謠言、話題等頻繁登上熱搜熱榜，嚴重擾亂公共秩序。公安機關(guān)根據(jù)相關(guān)法律法規(guī)，對徐某強處以行政拘留8日的處罰。
隨著科技的發(fā)展，利用AI發(fā)布虛假信息“博眼球”屢見不鮮。有人偽造熱點事件，用AI生成“某地重大事故”圖文或者視頻，再配上煽動性的標題博流量；有人捏造名人言論，篡改語音、合成視頻，假借權(quán)威人士發(fā)布虛假政策解讀；有人炮制偽科普，利用AI生成“科學(xué)數(shù)據(jù)”，兜售偽劣產(chǎn)品(如“AI檢測抗癌神藥”)；甚至有人嫁接虛假證據(jù)，將無關(guān)圖片通過AI換臉或者換背景，捏造“維權(quán)證據(jù)”“聊天記錄”。
作為一種新型謠言傳播趨勢與犯罪手段，“AI造謠”擾亂了輿論秩序，危害經(jīng)濟和社會平穩(wěn)運行，給網(wǎng)絡(luò)謠言治理帶來了新挑戰(zhàn)。2024年，山西公安組織“凈網(wǎng)”專項行動，嚴打網(wǎng)絡(luò)違法犯罪，偵辦涉網(wǎng)案件3200余起；開展打擊整治網(wǎng)絡(luò)謠言專項行動，偵辦網(wǎng)絡(luò)謠言案件400余起，清理網(wǎng)絡(luò)謠言信息2600余條，關(guān)停違法違規(guī)賬號9700余個；始終保持打擊侵犯公民個人信息犯罪高壓態(tài)勢，偵破案件110余起，網(wǎng)絡(luò)空間更加清朗有序。這體現(xiàn)了公安機關(guān)打擊“AI造謠”毫不手軟的態(tài)度，以及護航經(jīng)濟社會高質(zhì)量發(fā)展的堅定決心。
作為普通網(wǎng)民，如何識別AI謠言？網(wǎng)警教你四步識別：首先是查源頭，警惕無明確作者、無正規(guī)信源的內(nèi)容，AI生成信息常偽裝成“網(wǎng)友投稿”“內(nèi)部消息”；其次要看細節(jié)，如果是AI圖像，觀察人物手指數(shù)量有無異常，光影是否自然等，如果是AI視頻，則需注意人物口型與聲音是否同步、背景是否模糊扭曲等；再次是驗邏輯，AI生成謠言常出現(xiàn)時間矛盾，如2024年的政策，引用的卻是2025年的數(shù)據(jù)，出現(xiàn)地名錯誤等；最后要用工具，關(guān)注“公安部網(wǎng)安局”新媒體賬號打謠信息，或通過“中國互聯(lián)網(wǎng)聯(lián)合辟謠平臺”“騰訊較真”等渠道一鍵驗證。
太原網(wǎng)警在此提醒：互聯(lián)網(wǎng)并非法外之地，要嚴守法律紅線，不利用AI偽造公文、證件，不生成謠言、暴力等違法信息。遇到所謂的“爆炸性新聞”，不輕信、不轉(zhuǎn)發(fā)、不擴散。通過官方平臺驗證信息，發(fā)現(xiàn)AI謠言立即舉報，保存證據(jù)協(xié)助溯源。使用者應(yīng)主動標注AI生成內(nèi)容，人人爭做“謠言粉碎者”，共同維護清朗網(wǎng)絡(luò)空間。
