湖南懷化網(wǎng)警在日常巡查中發(fā)現(xiàn)，一條“懷化35歲女子從28樓跳下”的視頻在網(wǎng)絡(luò)傳播，視頻的配文中還標(biāo)注了高空墜亡事件、家庭悲劇等標(biāo)簽，該視頻一經(jīng)發(fā)布迅速引發(fā)熱議，先后獲得數(shù)萬次轉(zhuǎn)發(fā)。經(jīng)懷化市公安局縝密偵查，對違法嫌疑人禹某進(jìn)行了抓捕。據(jù)禹某向警方供述，為了快速提升自己賬號的關(guān)注度，她通過在某AI平臺輸入“高空墜樓、家庭悲劇”等關(guān)鍵詞生成視頻片段，并經(jīng)過二次剪輯后發(fā)布到網(wǎng)上。除了這起利用AI工具編造謠言的案例之外，上海警方前不久也破獲了一起利用AI工具編造企業(yè)不實(shí)信息的案件。
當(dāng)“懷化35歲女子從28樓跳下”的所謂“新聞視頻”在平臺瘋傳數(shù)萬次，當(dāng)“某茶飲企業(yè)使用過期原料”的AI杜撰謠言導(dǎo)致門店營業(yè)額驟降超20%。AI生成內(nèi)容正被扭曲為流量時代的新型造謠工具。
惡意造假已成AI技術(shù)濫用重災(zāi)區(qū)。湖南禹某僅憑輸入“高空墜樓、家庭悲劇”等關(guān)鍵詞，便借助平臺“悲劇模板”一鍵生成虛假跳樓視頻；上海姚某、陳某等人為博取廣告收益，用AI工具“洗稿”拼湊企業(yè)不實(shí)信息。技術(shù)門檻的降低正催生一條AI造謠的灰色產(chǎn)業(yè)鏈，某平臺“悲劇模板”月下載量超10萬次的數(shù)據(jù)，更揭示出流水線式造假的規(guī)模性危害。這些行為已非無心之失，而是為流量精心策劃的惡意欺詐。
流量至上的迷思終將反噬其身。無論是禹某“看到別人漲粉快就想跟風(fēng)”的供述，還是陳某為“直播帶貨權(quán)限”而炮制企業(yè)謠言的動機(jī)，皆暴露出部分內(nèi)容創(chuàng)作者將技術(shù)倫理拋諸腦后的流量饑渴。當(dāng)社會責(zé)任讓位于點(diǎn)擊率，當(dāng)事實(shí)核查屈從于算法偏好，虛假信息便如病毒般裂變。從引發(fā)公眾恐慌，到重創(chuàng)企業(yè)商譽(yù)，技術(shù)濫用的惡果最終由整個社會共擔(dān)。
法律之網(wǎng)早已為技術(shù)濫用劃清紅線。北京航空航天大學(xué)法學(xué)院趙精武副教授明確指出，利用AI生成傳播虛假信息屬違法行為。從《治安管理處罰法》的罰款拘留，到情節(jié)嚴(yán)重者面臨有期徒刑，法律懲戒體系已然完備。更值得注意的是，平臺同樣難辭其咎。《人工智能生成合成內(nèi)容標(biāo)識辦法》明確要求其對AI內(nèi)容進(jìn)行顯著標(biāo)識，監(jiān)管機(jī)構(gòu)可對失職平臺采取暫停更新乃至行業(yè)禁入等嚴(yán)厲措施。技術(shù)絕非違法擋箭牌，正如辦案民警所言：“網(wǎng)絡(luò)不是法外之地?！?/p>
治理AI濫用需技術(shù)向善與法治利劍雙軌并行。平臺須壓實(shí)主體責(zé)任，強(qiáng)化AI生成內(nèi)容的審核與標(biāo)識，從源頭阻斷虛假信息傳播鏈；監(jiān)管部門則應(yīng)提升對新型技術(shù)造假的敏感度與打擊力度。對每位網(wǎng)民而言，更需清醒認(rèn)知：在鍵盤上輕點(diǎn)生成鍵的那一刻，法律邊界已然存在。流量有底線，法律有紅線。
技術(shù)本為照亮前路之火炬，而非混淆是非之迷霧。當(dāng)AI造謠者終在法治的聚光燈下現(xiàn)形，其流量迷夢的破碎亦為整個行業(yè)敲響警鐘：唯有敬畏事實(shí)、尊重法律，技術(shù)紅利方能真正惠及社會，而非淪為一場飲鴆止渴的流量狂歡。（久泰平）
初審： 羅丹 復(fù)審： 孫曉云 終審： 張彥梅 吉網(wǎng)新聞熱線：0431-82902222
鄭重聲明：本文版權(quán)歸原作者所有，轉(zhuǎn)載文章僅為傳播更多信息之目的，如作者信息標(biāo)記有誤，請第一時間聯(lián)系我們修改或刪除，多謝。
