■吳曉璐

    近日，上海警方偵破一起利用人工智能技術編造、傳播網(wǎng)絡謠言損害企業(yè)權益案，抓獲8名犯罪嫌疑人。據(jù)悉，該團伙利用AI“洗稿”，杜撰涉霸王茶姬的不實文章，以此博流量、漲粉絲進而獲取廣告收益。

    近年來，AI大模型技術不斷突破，便利了人們的生活和工作。但AI大模型生動真實的模仿能力，也讓其成為資本市場虛假“小作文”的推手。造謠者利用AI生成謠言主要有兩種方式，一是利用AI軟件生成不實圖文、研報等，在網(wǎng)上進行傳播；二是通過“語料污染”，讓AI“說謊”，如DeepSeek爆火后，造謠者通過批量發(fā)布虛假信息，污染AI大模型的訓練數(shù)據(jù)，再利用AI問答截圖上網(wǎng)傳播，形成“謠言—AI回答—更多謠言”的虛假信息閉環(huán)傳播。

    從造謠目的來看，有的是利用謠言博取流量，有的則可能涉嫌操縱市場。無論出于何種目的，這些謠言不僅會誤導投資者決策判斷，擾亂資本市場秩序，引發(fā)信任危機，還可能影響企業(yè)經(jīng)營，損害企業(yè)利益和聲譽。比如，在上述案例中，受不實信息影響，霸王茶姬部分區(qū)域門店單日營業(yè)額同比下降超20%。

    因此，多措并舉加強對AI謠言的治理，對于減少市場異常波動、保護中小投資者利益、維護市場公開和公平的環(huán)境具有重要意義。

    首先，完善法治體系。從政策層面來看，近年來，針對AI謠言的治理體系逐步完善?！痘ヂ?lián)網(wǎng)信息服務深度合成管理規(guī)定》《生成式人工智能服務管理暫行辦法》先后發(fā)布，強化對AI生成內容的標識；今年3月份，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內容標識辦法》，進一步規(guī)范人工智能生成合成內容標識，這標志著我國在規(guī)制AI生成內容方面邁出了重要一步。

    與此同時，加快推動人工智能立法，明確AI謠言相關主體的責任刻不容緩。通過立法明確各方責任邊界，將提高威懾力，也是后續(xù)打擊相關責任方、追究其民事責任和刑事責任的重要保障。

    其次，持續(xù)加大打擊力度。在打擊AI謠言方面，各地公安機關已發(fā)布多起對編造謠言、影響金融秩序相關主體處罰的典型案例。4月份，中央網(wǎng)信辦印發(fā)通知，在全國范圍內部署開展為期3個月的“清朗·整治AI技術濫用”專項行動，除了強化AI技術源頭治理外，還將聚焦利用AI技術制作發(fā)布謠言等突出問題，集中清理相關違法不良信息，處置處罰違規(guī)賬號、MCN機構和網(wǎng)站平臺。

    資本市場方面，在公安、網(wǎng)信等部門的大力支持下，中國證監(jiān)會通過監(jiān)測、甄別、處置、警示、投教等全鏈條聯(lián)動，嚴厲打擊編造、傳播股市謠言的行為。特別是針對股市虛假“小作文”，已制定專項整治工作方案。

    未來，監(jiān)管部門需進一步挖掘AI謠言背后的利益鏈，查清謠言背后是否涉及操縱市場等違法違規(guī)行為，徹底斬斷“造謠—傳播—牟利”的利益鏈。

    再次，強化技術反制。一方面，要嚴格語料篩選，通過建立權威信源“白名單”、剔除虛假信源、交叉驗證等方式，從源頭抓取可靠信源，降低“語料污染”引起的AI謠言概率。另一方面，利用AI技術對虛假內容進行識別并及時處理。比如，今年年初，騰訊發(fā)布“朱雀”AI大模型檢測系統(tǒng)，助力識別和打擊網(wǎng)絡中的虛假信息。

    最后，投資者應提高對信息的辨別能力，避免成為謠言的受害者和傳播者，發(fā)現(xiàn)謠言后應及時舉報。

    資本市場對信息極為敏感，加強對AI謠言的治理成為監(jiān)管部門的一道“必答題”。可以看到，我國正在逐步建立AI治理體系，強化對利用AI技術造謠的懲治。未來，期待法律規(guī)制、監(jiān)管效能、技術防控、社會共治多維聯(lián)動，有效遏制AI謠言對資本市場的影響，護航市場平穩(wěn)健康發(fā)展。