當AI開始被用來謀財害命⋯從騙錢到賣假藥 該如何防範？

大陸央視踢爆「苗古金貼」騙局，這款產品宣傳的名頭可不小，號稱由傳承「千年秘方」的非遺傳承人制作，其實是使用AI造假。（雷科技leitech）

據《雷科技leitech》報導，現在AI造假都這麼離譜了嘛？前幾天大陸央視曝光了「苗古金貼」騙局，這款產品宣傳的名頭可不小，號稱由傳承「千年秘方」的非遺傳承人制作，而且還有模有樣曬出了「非遺傳承人」證書跟「非遺傳承人」照片，這下子銷量猛漲，登上了電商暢銷榜，總銷量幾十萬，當真是恐怖。

結果媒體深挖下去，傳承人的照片實際上是AI生成的，臉部表情僵硬、手掌有六指、光線美顏到離譜、一眼假。

而所謂的「非遺傳承人」證書乃是機構非法制作，花兩、三千塊錢就能夠買到；「苗古金貼」則是由第三方代工廠貼牌生產，成本不到10塊錢（人民幣，下同）。「千年秘方」、「專治頸椎問題」只不過是藉助AI來割韭菜的騙局。

AI生成的人物、僞造的品牌證書、貼牌生產的產品，整個事件就魔幻起來了。最後有關部門介入，對相關企業和涉案人立案調查，這波賣假藥的就等着法律的審判吧。

這件事也讓小雷想起以前電視上那位「做出違背祖宗決定」的「神醫」，同樣是各種光環加身，家族傳承得到的藥方，也是公然兜售假藥。

只不過以前的「神醫」是出現在電視，還是真人，現在的「神醫」是出現在互聯網，還是AI生成的，真「查無此人」。

但電視上的「神醫」起碼還有真人出鏡扮演「神醫」，這點「情緒價值」多多少少增加點可信度。

哪像「苗古金貼」這麼離譜，直接AI生成人物圖片就出來騙，偏偏還有這麼多人上當，整個事件都讓小雷覺得不可思議卻又真實發生了，只能說世界就是個草臺班子。

今年是AI技術蓬勃發展的年份，AI生成圖片、AI生成影音、AI生成代碼這樣的功能也都被AI企業開發出來了，可以說現階段的AI技術已經進入了一個新階段，

此前央視315晚會就曝光了AI詐騙的違法行爲，目前比較常見的主要有AI聲音合成與AI換臉兩種，而且隨着AI技術的不斷進步，成本越來越低，只需花費幾十元，就可定製AI深度合成名人音頻影音。

而且圍繞AI技術還形成了外呼產業鏈，外呼公司使用人工智能機器人撥打營銷電話，機器人不知疲倦，不管白天黑夜都可以撥打營銷電話；而且外呼公司事先用真人錄音進行AI複製成機器人的聲音，這樣一來使得接聽者根本難以分辨電話那頭的究竟是人，還是機器人。

小雷就曾接到這樣的外呼AI電話，兩三分鐘裡確實很難聽出來是真人還是AI，後面是發現對面沒有換氣聲，所以才判斷出來是AI，但足以迷惑他人了。

此外據《新京報》報導，現今圍繞AI技術也形成了一條完整的黑色產業鏈：上游技術負責兜售「AI換臉套餐」，中游則利用非法獲取的個人信息來投放詐騙信息，下游則通過虛擬貨幣、跑分平臺等管道轉移資金。技術、數據、資金「三位一體」，織了一張AI詐騙的大網，讓許多用戶深陷其中。

這兩年利用AI技術冒充名人實施不法行爲事件時有發生，張文宏、靳東、雷軍等名人都深受其害：騙子用「AI靳東」實施詐騙，許多女性消費者上當；張文宏醫生「帶貨」衝上熱搜，但這是AI換臉之後的「張文宏」，稍微懂點AI的小夥伴一眼就能看出來是假的，可還是有不少老年人上當，在「AI張文宏」處買了產品。

此事也讓張文宏醫生無奈，他也曾向媒體透露自己投訴無門，不勝其擾。

雷軍的遭遇更離譜，2024年大陸十一期間「雷軍語音包」引熱議，許多以「雷軍」聲音爲配音的內容在社交平臺迅速傳播，「銳評」假期堵車、遊戲等話題，這其中也出現了不少污言穢語。以至於出現了「國慶7天，被AI雷軍罵了8天」的調侃。

雷軍本人還專門爲此發了個影音，呼籲大家不要再用自己的聲音惡搞。

靳東、雷軍等名人的遭遇也讓我們看到了AI技術濫用的後果，以前講究耳聽爲實、眼見爲實，但在互聯網AI時代，耳朵聽到的有可能是假的，眼睛看到的也不一定是真實的。

並且利用AI技術圍獵的不僅僅是老年人，即便是年輕人也會掉進坑中。據《東南早報》報導，福建一公司老闆郭某接到了「好友」的影音通話，對方向郭某借錢，不到十分鐘的時間郭某就被騙走430萬元，事後才發現電話那頭是好友的「數位替身」——臉是直接AI換的，聲音也是用AI擬聲技術合成的。問題是受害者對此一點警覺都沒有，這就有點可怕了。

難怪有人會擔心，以前還可以通過觀察眼睛、頭髮、手指等來辨別是否是AI生成，現在這些伎倆都不太好使了。若是AI再發現下去，怕是真可以達到以假亂真的效果。

小雷很喜歡一句話，技術本無善惡之分，有善惡之分的是使用技術的人，這句話就是對AI最好、最準確的描述。AI用得好可以幫助人類提高效率、更好地處理複雜繁多的事務；而當AI技術被用於誤導消費者、實施不法行爲之時，平臺與監管者就成爲幫兇。

像前面提到的「苗古金貼」騙局，靠着AI生成的圖片就可以堂而皇之出來賣假貨，這其中暴露的正是電商平臺審覈制度的缺陷。像電商暢銷榜等榜單，平臺是否有審覈過登上榜單的相關店鋪的資質？是否有對店鋪投放的廣告進行排查？如果平臺不重視起來，加強對內容的審覈，像「苗古金貼」這種AI生成的假人都能過審的離譜事件，以後只怕會越來越多。

想要斬斷「苗古金貼」、「AI雷軍」等AI技術「惡之花」，還需要監管部門的介入，儘快制訂AI技術行業的統一規範，明確AI生成技術、數位人使用的使用範圍和條件，讓技術能更好地爲人類服務。

而對於消費者來說，要懂得保護自己的個人信息，像面部識別、指紋等個人生物信息，能不錄就不錄；身份證號碼、銀行卡號、手機驗證碼等敏感信息也不要隨意泄露給他人，免得悔之晚矣。

此外在涉及到資金、關鍵信息等方面的溝通，還是要留個心眼，通過多種方式來覈實對方的真實身份。

畢竟這年頭大家賺錢都不容易，要是被AI技術騙走了，那可真是得不償失了。

還記得幾年前AI技術剛飛速發展的時候，有不少人視AI技術如洪水猛獸，覺得應該將AI扼殺在搖籃裡。

小雷看來這種想法還是有失偏頗的，新事物的誕生往往都要經歷一番曲折的發展，才能夠逐漸爲世人所接受。

AI也是如此，人類要做的就是引導AI健康發展，讓AI真正爲我們所用。而不是在技術氾濫的時代裡，還要用AI給人類添堵。

像AI換臉詐騙、AI圖片謀取不當收益等行爲肯定是要制止的，除了嚴厲打擊之外，還需要一套全面、完整的行業標準，將AI技術關進籠子裡，才能讓AI更好爲人類服務。