“賣慘劇本殺”:誰在短視頻裡編造虛假人生

來源:公安部網安局

遭遇重大家庭變故的母親帶着患病幼兒送外賣,遭遇家暴的妻子帶着女兒在山上艱難求生,養母精神異常且被村裡人欺負的少女在艱難生活……在短視頻平臺上,這些“悲情遭遇”博得了不少網友的同情。然而,這些視頻最終被證實是博主利用“賣慘”擺拍的虛假視頻。

近年來,劇情類視頻風靡一時,但也產生了諸多亂象,虛假擺拍成爲不實信息的新表現。挑動矛盾、煽動情緒系常見手段,虛假視頻發佈者以情緒化方式人爲製造矛盾對立,推動謠言發酵。

近日,四川樂山警方偵破一起“賣慘”引流虛假廣告案,犯罪嫌疑人先某、陳某、朱某打着“助農”的幌子,擺拍虛假短視頻引流斂財,涉案金額達440餘萬元。

“助農”外衣下的賣慘戲碼

穿着破爛、右腳殘疾的老伯艱難地從地上支撐起身體,揹着滿滿一簍芒果,求老闆收購;自稱26歲,看起來卻像46歲的女子滿身泥濘,揹着一筐芒果,帶着殘疾的哥哥四處求收購……主播看到他們的境遇後,立即決定收購這批芒果。主播的一系列操作贏得網友讚賞,網友紛紛點開視頻鏈接,下單購買芒果。

“這些視頻有諸多穿幫細節。”樂山市公安局沙灣區分局網安大隊教導員李毅發現,涉案賬號名爲“大××助農在行動”,“粉絲”有200多萬,視頻中所謂“水果經銷商”只是虛假人設,這些演員有時扮演“賣慘”果農,有時扮演“蠻橫”的水果收購商。

據樂山警方偵查,該團隊在平臺上不斷髮布“賣慘”視頻,利用網友的同情來引流,並以此推銷商品、賺取佣金。每到水果採摘季,賬號註冊人先某便遊走於全國各地,專門打着“助農”的噱頭,通過虛假擺拍,打造悲慘人設,代銷水果牟利。

“由於售後操作繁瑣、產品價格不高等原因,很少有消費者選擇退貨。”李毅說,這種網絡“賣慘”透支了社會信用。

在流量至上的自媒體時代,流量往往與收益直接相關,在利益的驅動下總有人鋌而走險。同時,人工智能、視頻合成等技術也被不法分子用於生成不實信息,一定程度降低了視頻製作門檻和成本。

這些虛假視頻往往通過跨平臺傳播的方式擴大影響。由於各平臺的數據相互獨立、互不聯通,監管部門難以及時鎖定完整證據鏈,這就導致不法分子“刪除跑路”成爲常見現象。李毅表示,一些MCN機構(網絡信息內容多渠道分發服務機構)常常以“不知情”爲由逃避責任,而一些平臺則以“技術中立”爲由推卸審覈責任,導致虛假擺拍成爲網絡亂象。

“賣慘”引流催生畸形產業鏈

隨着深入偵查,一條從前端打造悲慘人設、孵化網紅,到中端編造劇本、虛假擺拍,再到後端電商運營的“賣慘”引流畸形產業鏈,浮出了水面。

樂山市公安局沙灣區分局網安大隊副大隊長竇海柱介紹,先某負責團隊的整體運營,挑選貨源、場地並組織拍攝,陳某配合拍攝,朱某負責剪輯並上傳視頻。此外,他們還組織直播帶貨,形成了相對成熟的銷售流水線,單場直播銷售額達30萬元。

“短視頻造假,歸根結底是基於流量利益的考量。”竇海柱說,在“流量思維”主導下,一些人不惜造假、造謠,甚至不顧道德和法律的約束,去擺拍虛假短視頻。

“主播能輕易地利用用戶的認知誤區進行營利活動,是擺拍虛假短視頻和直播間容易出現虛假宣傳問題的首要原因。”竇海柱說,“賣慘”形式層出不窮、隱蔽性極強,平臺監管難度極大,不法分子也就有了可乘之機。

偵辦此案過程中,虛假短視頻引流與用戶下單交易之間的關聯性問題,是取證的最大難點。竇海柱表示,爲營利引流擺拍的虛假短視頻自帶廣告屬性,涉嫌虛假廣告罪。廣告主、廣告經營商、廣告發布者違反國家法律法規,利用廣告對商品或服務做虛假宣傳。根據虛假廣告罪相關司法解釋,普通商品獲利超過10萬元、特殊商品獲利超過3萬元,就可以認定爲情節嚴重。“很多博主只想以‘賣慘’形式獲利,卻忽視了涉嫌犯罪的問題。”竇海柱說。

目前,該案已移送人民檢察院審查起訴。

打出協同共治組合拳

在短視頻浪潮中,本案屬於完全編造劇情、虛假擺拍,欺騙用戶下單。那麼,短視頻到底能不能擺拍?引流的法律界限究竟在哪裡?

“是否對虛構情節進行了標註以保護觀衆的知情權,是否刻意模糊擺拍視頻和真實記錄的界限,故意誤導公衆產生認識錯誤,內容是否具有不良的社會導向,這些都是考量的因素。”四川省公安廳網安總隊法制與宣教支隊副支隊長冷陽說,特別是應當關注視頻是否包含《網絡短視頻內容審覈標準細則》《網絡視聽節目內容審覈通則》等行業規定中明確列舉的不當內容。

“一旦發佈者擺拍的短視頻符合上述不當內容,無疑是越過了擺拍的合理邊界,會對社會公序良俗造成強烈衝擊。”冷陽說,“這樣的行爲就要承擔相應的法律責任。”

近年來,全國公安機關深入開展打擊整治網絡謠言專項行動,依法嚴懲“網紅”“大V”、MCN機構有組織造謠炒作等違法犯罪。2024年,公安機關共偵辦網絡謠言案件4.2萬餘起,查處造謠傳謠違法犯罪人員4.7萬餘名,依法關停違法違規賬號33.8萬餘個,清理網絡謠言信息252.4萬條。

同時,公安機關綜合運用警情通報、新聞發佈會、媒體報道、發佈典型案例、製作專題宣傳片以及開展線下宣傳活動等多種形式,持續開展闢謠宣傳和以案釋法。2024年,公安機關共曝光典型案例1.2萬起,社會反響熱烈。

整治此類網絡亂象,平臺監管和輿論監督是關鍵。

冷陽認爲,相關平臺應加強對自媒體賬號的全流程管理,確保賬號信息的真實性和準確性,並完善信息來源標註展示機制;建立合理的流量分配機制,對導向正確、內容優質的自媒體給予較高推薦權重,切斷無底線博流量信息的“變現”利益鏈。

2024年,公安機關以重大網絡謠言案件爲切入點,採取警告、責令整改、罰款等措施,督導提醒網站平臺嚴格落實主體責任,查處整治網站平臺5.2萬餘家次,對重點平臺進行網絡謠言專項約談整改。同時,公安機關指導大型重點互聯網企業主動開展打擊網絡謠言宣傳,及時精準發佈和轉載打擊網絡謠言信息。

“我們將持續打擊虛假視頻擺拍等造謠傳謠違法犯罪,依法對造謠賬號追究相應責任,並聯合相關部門,進一步壓實網站平臺責任,督促網站平臺依法依規強化禁言、封號等懲戒力度。”冷陽說,網信、公安、文化旅遊、市場監管等部門將協同治理,形成監管合力,共同維護良好的網絡生態。