央視新聞客戶端訊 前不久，某網(wǎng)絡(luò)平臺(tái)上出現(xiàn)一條所謂“懷化35歲女子從28樓跳下”的視頻，其中不僅有時(shí)間、地點(diǎn)、事件、人物等新聞要素，而且還有事件發(fā)生時(shí)的所謂現(xiàn)場(chǎng)畫(huà)面，該內(nèi)容一經(jīng)發(fā)布就引起了不少關(guān)注。這段看似有模有樣的網(wǎng)傳視頻，真實(shí)的情況到底是什么呢？
湖南懷化網(wǎng)警在日常巡查中發(fā)現(xiàn)，一條“懷化35歲女子從28樓跳下”的視頻在網(wǎng)絡(luò)傳播，視頻的配文中還標(biāo)注了高空墜亡事件、家庭悲劇等標(biāo)簽，該視頻一經(jīng)發(fā)布迅速引發(fā)熱議，先后獲得數(shù)萬(wàn)次轉(zhuǎn)發(fā)。
然而，懷化警方在調(diào)查中卻發(fā)現(xiàn)了諸多疑點(diǎn)，首先，從該視頻中的建筑物外立面可以看出，所謂事發(fā)地并不是懷化市；另外，視頻中主播的聲畫(huà)錯(cuò)位情況非常明顯。
湖南懷化市會(huì)同縣公安局網(wǎng)絡(luò)安全大隊(duì)民警 閆宏輝：經(jīng)懷化市公安局核實(shí)，當(dāng)日沒(méi)有發(fā)生類似視頻墜樓警情，我大隊(duì)接線索后立即開(kāi)展調(diào)查，快速鎖定發(fā)布視頻嫌疑人員。
湖南懷化市會(huì)同縣公安局連山派出所教導(dǎo)員 蒙源：經(jīng)過(guò)我們的縝密偵查，發(fā)現(xiàn)違法嫌疑人禹某的住址，隨即我所民警對(duì)禹某進(jìn)行了抓捕。
據(jù)禹某向警方供述，為了快速提升自己賬號(hào)的關(guān)注度，她通過(guò)在某AI平臺(tái)輸入“高空墜樓、家庭悲劇”等關(guān)鍵詞生成視頻片段，并經(jīng)過(guò)二次剪輯后發(fā)布到網(wǎng)上。
警方調(diào)查發(fā)現(xiàn)，在禹某使用的這個(gè)AI平臺(tái)上，關(guān)于“悲劇模板”的使用率非常大，每月的下載量超過(guò)10萬(wàn)次。
嫌疑人禹某：我當(dāng)時(shí)看到別人用AI做視頻漲粉很快，就想跟風(fēng)試試。平臺(tái)里有現(xiàn)成的悲劇模板，輸入關(guān)鍵詞就能生成畫(huà)面。我根本不知道隨便發(fā)這種視頻會(huì)違法，更沒(méi)想到會(huì)給那么多人帶來(lái)恐慌。
截至警方查處時(shí)，禹某發(fā)布的虛假視頻已經(jīng)引發(fā)大量關(guān)注，嚴(yán)重?cái)_亂了社會(huì)正常秩序。懷化警方依法對(duì)禹某作出了相應(yīng)的行政處罰。
博主為博流量 用AI編造某企業(yè)不實(shí)信息
除了剛才這起利用AI工具編造謠言的案例之外，上海警方前不久也破獲了一起利用AI工具編造企業(yè)不實(shí)信息的案件。
警方查明，自媒體博主姚某、陳某等人為了吸粉引流，利用AI工具搜集素材，在未做核實(shí)的情況下，生成所謂“某茶飲企業(yè)使用過(guò)期原料被罰款”等不實(shí)內(nèi)容，并發(fā)布到網(wǎng)上，不僅嚴(yán)重侵害了企業(yè)的權(quán)益，還造成了惡劣的社會(huì)影響。
前不久，上海某茶飲企業(yè)向警方報(bào)案稱，多個(gè)自媒體平臺(tái)出現(xiàn)大量針對(duì)該企業(yè)及其創(chuàng)始人的不實(shí)信息，接報(bào)后，警方立即成立專案組開(kāi)展偵查。
上海市公安局長(zhǎng)寧分局網(wǎng)安支隊(duì)民警 陳昱汀：我們針對(duì)100多個(gè)自媒體賬號(hào)進(jìn)行溯源，謠言里面有提到使用過(guò)期原料被罰款20萬(wàn)元的事情，還有很多不實(shí)內(nèi)容。
警方通過(guò)溯源發(fā)現(xiàn)，其中一則不實(shí)信息的發(fā)布者為自媒體從業(yè)人員姚某，為了增加賬號(hào)文章的瀏覽量和廣告收益，姚某花費(fèi)了800元在網(wǎng)上找到了盧某為其代筆。
上海市公安局長(zhǎng)寧分局網(wǎng)安支隊(duì)民警 陳昱汀：他找到了代理人盧某，盧某也沒(méi)有自己編寫文章，而是利用AI軟件自動(dòng)生成了一篇文章，也沒(méi)有經(jīng)過(guò)核實(shí)再發(fā)還給了姚某。
在收到盧某的這篇文章后，姚某未做核實(shí)就發(fā)布在了自己的賬號(hào)上，其中關(guān)于某企業(yè)所謂“使用過(guò)期原料被罰款”的內(nèi)容被大量轉(zhuǎn)發(fā)，不僅嚴(yán)重?fù)p害了企業(yè)品牌形象，還導(dǎo)致部分區(qū)域門店單日營(yíng)業(yè)額同比下降超20%。
同樣是涉及該企業(yè)的不實(shí)信息，陳某等人為了獲取平臺(tái)對(duì)閱讀量的現(xiàn)金補(bǔ)貼，從網(wǎng)上搜集了各類關(guān)于該企業(yè)創(chuàng)始人的傳言，通過(guò)AI工具“洗稿”后生成了相關(guān)不實(shí)內(nèi)容并發(fā)布在網(wǎng)上，獲得了較高的閱讀量。
上海市公安局長(zhǎng)寧分局網(wǎng)安支隊(duì)民警 陳昱汀：通過(guò)這樣的方式，在自己的自媒體賬號(hào)上面發(fā)布熱點(diǎn)文章，來(lái)博取眼球蹭熱度，漲粉以獲得廣告收益等等，或者可以通過(guò)這個(gè)賬號(hào)獲取直播帶貨的權(quán)限。
據(jù)了解，發(fā)布涉及某茶飲企業(yè)不實(shí)信息的8名犯罪嫌疑人，目前已被上海長(zhǎng)寧警方依法采取刑事強(qiáng)制措施。
利用AI生成發(fā)布虛假信息屬于違法行為
在網(wǎng)絡(luò)上發(fā)布利用AI生成的不實(shí)信息觸犯了哪些法律法規(guī)？會(huì)相應(yīng)受到什么處罰？北京航空航天大學(xué)法學(xué)院副教授趙精武做了以下解讀。
趙精武表示，利用AI工具生成、發(fā)布和傳播網(wǎng)絡(luò)虛假信息的，屬于明顯的違法行為，依據(jù)相關(guān)法律，情節(jié)較輕的將受到罰款、拘留等處罰；情節(jié)較重的則可能被判處有期徒刑。
此外，信息發(fā)布平臺(tái)、服務(wù)提供者也可能承擔(dān)相應(yīng)的法律責(zé)任，因?yàn)楦鶕?jù)《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》的相關(guān)規(guī)定，這類主體負(fù)有對(duì)生成內(nèi)容添加“AI生成”等內(nèi)容標(biāo)識(shí)的法定義務(wù)，倘若其怠于履行該義務(wù)，監(jiān)管機(jī)構(gòu)則可以依法采取警告、責(zé)令限期改正、暫停信息更新、行業(yè)禁入等行政處罰和懲戒措施。
鄭重聲明：本文版權(quán)歸原作者所有，轉(zhuǎn)載文章僅為傳播更多信息之目的，如作者信息標(biāo)記有誤，請(qǐng)第一時(shí)間聯(lián)系我們修改或刪除，多謝。
