一種新型"AI垃圾"在TikTok氾濫：用卡通猴子影射黑人，瀏覽量已破千萬
7月3日消息，在熱門短視頻應用TikTok上，人工智能生成的種族歧視視頻最近正被大量傳播，瀏覽量甚至高達數百萬次。
這些視頻據信出自谷歌公開發布的文本轉視頻生成工具Veo 3。其內容充斥着種族主義的刻板印象，例如將黑人描繪成猴子和罪犯，以及把黑人與西瓜、炸雞等特定事物聯繫在一起。
一些用戶還在發佈誤導性的AI生成視頻，內容涉及移民和抗議者。更有甚者用AI生成視頻重現少數族裔及邊緣羣體的歷史創傷，包括描繪二戰集中營和三K黨襲擊美國黑人。
TikTok平臺明確禁止“貶低種族或族裔羣體”以及“威脅或意圖對個人或羣體造成身體傷害”的視頻。但非營利組織Media Matters觀察到，許多非人化乃至包含暴力內容的視頻仍在平臺上肆意傳播。
谷歌文本轉視頻生成式AI模型Veo 3於5月20日發佈。目前公開版本生成的視頻時長限制在8秒。據報道，谷歌計劃將這一功能整合到短視頻應用YouTube Shorts中。
TikTok上的這類視頻均不超過8秒，或由多個每段不超過8秒的片段組成。這些視頻的畫面邊角通常帶有“Veo”字樣，且視頻往往使用了與Veo 3或AI相關的標籤、標題或用戶名，並帶有明顯的AI生成痕跡。
其中大部分種族主義AI內容都帶有明確的反黑人傾向，利用猴子形象來強化對黑人的刻板印象。
例如一段視頻配文：“我問AI：‘坐廉航的日常體驗’”，畫面顯示猴子在機艙裡四處攀爬，煙霧報警器不停作響。這段視頻的瀏覽量高達83.53萬次。
觀衆們顯然看懂了其中的種族主義影射。一條獲贊超2000的評論寫道：“哥們，連AI都開始‘煩黑人’了。”另一位用戶寫道：“AI纔剛出來5分鐘，就已經對黑人感到厭煩了。”這類非人化內容還將非裔美國人描繪成罪犯。在一段視頻中，一隻戴着粉色假髮、塗着粉色長指甲、戴着粉色假睫毛的猴子說：“假釋官剛打來電話。好消息是我不用再做社區服務了。壞消息是，我又有了新的逮捕令。” 這段視頻的瀏覽量達到了400萬次。
還有幾個視頻將AI生成的猴子描繪成罪犯，並標註爲“慣犯”。例如，一段瀏覽量高達530萬次的視頻中上演了警匪追逐的場面：一輛被警車追趕的汽車撞上電線杆，一隻猴子從駕駛座跑了出來。視頻配文：“AI這下玩脫了兄弟。”
這些視頻不只使用動物意象來強化種族歧視。例如，有段視頻顯示一名戴着頭套的黑人男子從窗戶破碎的被劫商店裡搬出一臺電視，並說：“今天只是在進行我‘基本和平’的購物。”
這些AI視頻還固化了其他種族主義刻板印象，比如所謂“父親缺失”的刻板印象，即黑人父親普遍缺席子女生活的不實說法。
一段瀏覽量達37.39萬次的視頻中，一名白人女子哭着說：“特誇維烏斯（Tequavius，典型的非裔美國人名字），我有事要告訴你。我懷孕了。”隨後，一隻戴着反檐帽的猴子跑向一輛汽車並逃走。視頻配文：“AI想說啥？”
在類似視頻中，炸雞和西瓜這一由來已久的反黑人種族主義標籤也反覆出現。
一段瀏覽量爲14.76萬次的視頻中，描繪了一名黑人男子說道：“我喘不過氣了。我喘不過氣了。給我西瓜，我要西瓜。”另一段瀏覽量達35.09萬次的視頻則以一隻名叫“勒誇裡烏斯”（Lequarius）的猴子爲主角，它戴着金鍊子，拿着一桶炸雞。
警察對黑人施暴也是這些視頻中反覆出現的一個主題。
一段視頻瀏覽量高達1420萬次，視頻顯示兩名白人警察正在吃甜甜圈。其中一人突然說：“快看！黑人！”然後連開數槍。
雖然大部分類似AI生成的視頻針對黑人，但其他種族和族裔羣體也未能倖免。
一段瀏覽量超過20.69萬次的視頻顯示，一名亞裔男子向顧客介紹：“今天來嚐嚐我們的芝麻香橙‘汪汪肉’和‘喵喵肉’”，屏幕上還配有貓和狗的圖片。
還有一些視頻將南亞人描繪成不潔的形象。一段視頻中，幾名南亞裔男子用腳準備食物，並端上裝有老鼠的泥巴碗。
另一段視頻描繪一羣東正教男子爲追一塊金子滾下山坡。
此類AI生成的視頻還針對美國的移民和抗議者。
一段瀏覽量爲2.54萬次的視頻描繪了一羣AI生成的、自稱來自不同拉丁美洲國家、講西班牙語的人。其中幾人的言辭暗示他們想依賴美國資源。第一個抗議者用西班牙語說：“嗨，我來自委內瑞拉，我不想工作。我只想靠美國政府養活。”
更令人擔憂的是，一些AI生成的視頻似乎在虛構對移民或其支持者施加暴力的場景。在一個視頻中，一個AI生成的穿着邊境巡邏隊背心的大腳怪說：“我來教你們怎麼抓偷渡者。”然後他將一名男子摔倒在地，並塞進卡車後座說：“把這貨帶回去給我割草，然後再遣返他。”
圍繞AI和虛假信息的討論常常聚焦在AI生成內容的“可信度”，即其逼真程度。但仇恨信息並不需要看起來真實，就能將種族主義觀念植入觀衆心中。在美國，利用漫畫進行仇恨性的反黑人宣傳的做法由來已久。
隨着生成式AI工具的競賽不斷升溫，相關討論也應將其可能造成的傷害納入考量，無論AI生成的圖像是否逼真。（辰辰）