證券時報網(wǎng)
吳永芳
2025-06-09 10:28
近日，上海警方偵破一起利用人工智能技術(shù)編造、傳播網(wǎng)絡(luò)謠言損害企業(yè)權(quán)益案，抓獲8名犯罪嫌疑人。據(jù)悉，該團(tuán)伙利用AI“洗稿”，杜撰涉霸王茶姬的不實文章，以此博流量、漲粉絲進(jìn)而獲取廣告收益。
近年來，AI大模型技術(shù)不斷突破，便利了人們的生活和工作。但AI大模型生動真實的模仿能力，也讓其成為資本市場虛假“小作文”的推手。造謠者利用AI生成謠言主要有兩種方式，一是利用AI軟件生成不實圖文、研報等，在網(wǎng)上進(jìn)行傳播；二是通過“語料污染”，讓AI“說謊”，如DeepSeek爆火后，造謠者通過批量發(fā)布虛假信息，污染AI大模型的訓(xùn)練數(shù)據(jù)，再利用AI問答截圖上網(wǎng)傳播，形成“謠言—AI回答—更多謠言”的虛假信息閉環(huán)傳播。
從造謠目的來看，有的是利用謠言博取流量，有的則可能涉嫌操縱市場。無論出于何種目的，這些謠言不僅會誤導(dǎo)投資者決策判斷，擾亂資本市場秩序，引發(fā)信任危機(jī)，還可能影響企業(yè)經(jīng)營，損害企業(yè)利益和聲譽。比如，在上述案例中，受不實信息影響，霸王茶姬部分區(qū)域門店單日營業(yè)額同比下降超20%。
因此，多措并舉加強(qiáng)對AI謠言的治理，對于減少市場異常波動、保護(hù)中小投資者利益、維護(hù)市場公開和公平的環(huán)境具有重要意義。
首先，完善法治體系。從政策層面來看，近年來，針對AI謠言的治理體系逐步完善?！痘ヂ?lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》先后發(fā)布，強(qiáng)化對AI生成內(nèi)容的標(biāo)識；今年3月份，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》，進(jìn)一步規(guī)范人工智能生成合成內(nèi)容標(biāo)識，這標(biāo)志著我國在規(guī)制AI生成內(nèi)容方面邁出了重要一步。
與此同時，加快推動人工智能立法，明確AI謠言相關(guān)主體的責(zé)任刻不容緩。通過立法明確各方責(zé)任邊界，將提高威懾力，也是后續(xù)打擊相關(guān)責(zé)任方、追究其民事責(zé)任和刑事責(zé)任的重要保障。
其次，持續(xù)加大打擊力度。在打擊AI謠言方面，各地公安機(jī)關(guān)已發(fā)布多起對編造謠言、影響金融秩序相關(guān)主體處罰的典型案例。4月份，中央網(wǎng)信辦印發(fā)通知，在全國范圍內(nèi)部署開展為期3個月的“清朗·整治AI技術(shù)濫用”專項行動，除了強(qiáng)化AI技術(shù)源頭治理外，還將聚焦利用AI技術(shù)制作發(fā)布謠言等突出問題，集中清理相關(guān)違法不良信息，處置處罰違規(guī)賬號、MCN機(jī)構(gòu)和網(wǎng)站平臺。
資本市場方面，在公安、網(wǎng)信等部門的大力支持下，中國證監(jiān)會通過監(jiān)測、甄別、處置、警示、投教等全鏈條聯(lián)動，嚴(yán)厲打擊編造、傳播股市謠言的行為。特別是針對股市虛假“小作文”，已制定專項整治工作方案。
未來，監(jiān)管部門需進(jìn)一步挖掘AI謠言背后的利益鏈，查清謠言背后是否涉及操縱市場等違法違規(guī)行為，徹底斬斷“造謠—傳播—牟利”的利益鏈。
再次，強(qiáng)化技術(shù)反制。一方面，要嚴(yán)格語料篩選，通過建立權(quán)威信源“白名單”、剔除虛假信源、交叉驗證等方式，從源頭抓取可靠信源，降低“語料污染”引起的AI謠言概率。另一方面，利用AI技術(shù)對虛假內(nèi)容進(jìn)行識別并及時處理。比如，今年年初，騰訊發(fā)布“朱雀”AI大模型檢測系統(tǒng)，助力識別和打擊網(wǎng)絡(luò)中的虛假信息。
最后，投資者應(yīng)提高對信息的辨別能力，避免成為謠言的受害者和傳播者，發(fā)現(xiàn)謠言后應(yīng)及時舉報。
資本市場對信息極為敏感，加強(qiáng)對AI謠言的治理成為監(jiān)管部門的一道“必答題”?？梢钥吹?，我國正在逐步建立AI治理體系，強(qiáng)化對利用AI技術(shù)造謠的懲治。未來，期待法律規(guī)制、監(jiān)管效能、技術(shù)防控、社會共治多維聯(lián)動，有效遏制AI謠言對資本市場的影響，護(hù)航市場平穩(wěn)健康發(fā)展。
