AI亂象治理 要“打假”也要能“辨真”

來源：央視新聞客戶端

AI仿冒孫穎莎、王楚欽、全紅嬋帶貨，打的是什麼算盤？一條評論引發全國首例AI誤判案，創作者如何自證“我不是AI”？當技術應用的門檻越來越低，當內容檢測的難度越來越大，AI亂象治理，如何加速加力？《新聞1+1》連線中國社會科學院大學互聯網法治研究中心主任劉曉春、北京互聯網法院綜合審判一庭法官張倩，共同分析解讀。

AI仿冒奧運冠軍聲音帶貨

法律上怎麼看？

短視頻平臺上，奧運冠軍全紅嬋、孫穎莎、王楚欽的聲音都遭遇了仿冒，被用來帶貨土雞蛋。這種行爲在法律上怎麼去界定？面臨哪些法律責任？

中國社會科學院大學互聯網法治研究中心主任 劉曉春：借用知名運動員的聲音，或者叫盜用這個聲音去帶貨，法律上至少有兩個層面的問題。第一是對運動員人格權益的侵犯，比如聲音權的侵犯。第二對公衆來說，比如粉絲、購買雞蛋的消費者，實際上是有一個誤導、虛假宣傳，甚至是欺詐存在的。

盜用名人的聲音構成虛假宣傳，可能市場監管部門需要去追究他行政上的責任。

盜用名人的聲音去散播謠言，有可能達到刑事責任，會觸犯刑法。

我國《民法典》當中明確規定了聲音權，盜用別人的聲音會導致對其人格權益的侵犯，從而要去承擔相應的民事責任。

盜用聲音進行正能量宣傳

可以嗎？

另一個視頻用了白巖鬆的聲音，既也沒有帶貨，也沒有謀利，只是進行一種正能量的宣傳，這樣做可不可以？

劉曉春：這樣做看起來沒有什麼傷害，只是傷害到了當事人的人格權益，但也會誤導公衆。如果一個“新聞”用白老師的聲音來播，大家會覺得它很可靠，肯定就是真的新聞。包括用名人的聲音去做科普，大家會誤以爲這個科普的權威性比它應該有的更高。所以整體上對用戶、公衆有一個誤導，對他們的認知會產生一個不同方向的引導，還是有危害性的。

9月要施行的辦法

能解決什麼問題？

《人工智能生成合成內容標識辦法》將於今年9月1日起施行，這個辦法能夠解決什麼樣的問題？

劉曉春：這個辦法有一個非常明顯的特點，把治理的方式往前端移了。考慮到大家事後再去起訴的成本太高，這個辦法是說，AI軟件在生成內容的時候，要強制給這個文件打上標。打上以文字、聲音、圖形等方式呈現的顯式標識，提示它是AI生成的；或者採取技術措施在數據中添加隱式標識，大家可能看不見，但是平臺包括公衆可以有比較方便的方式，識別出它是AI生成的。

原創作品被判定爲AI生成

法院判了

網友李先生髮布的評論被平臺判定因“包含AI生成內容但未標識”而違規，李先生人工複覈無果後將平臺告上了法庭。這也是全國首例平臺運用算法工具進行AI生成合成內容檢測識別引發的案件。

最終北京互聯網法院判定原告李先生勝訴，但沒有認定內容是原創還是AI，而是認定被告平臺沒有對算法決策依據和結果進行適度的解釋和說明，在沒有事實依據的情況下對用戶進行了處理，應承擔違約責任。

北京互聯網法院綜合審判一庭法官張倩介紹，這個案件法院首先肯定了平臺審覈的正當性。對AI生成合成內容進行標記，既有利於公衆準確區分AI生成合成內容和人類創作內容，滿足公衆的知情權，也便利平臺通過標識追溯內容來源，明確責任主體，降低侵權、違法犯罪等社會風險。

但本案也同時強調，平臺應當就其判定結果進行充分的舉證和說明，尤其是有義務對平臺算法決策的過程和結果進行相應的解釋。這涉及舉證責任分配的問題。對於像涉案這種簡短的網絡即時創作內容，創作主體基本上都是在線編輯之後立即發佈，很少會保留創作底稿、原件這些證據。所以很難要求本案的原告舉證證明內容是由人類創作的。

但是平臺是算法工具的掌控方，以及這個結果的判斷方，有能力也有義務對算法工具的運算過程和審查結果進行充分解釋說明。當然，這也並不是要求平臺把和算法相關的全部內容，甚至是技術秘密都披露出來。而是要求平臺就涉案內容AI判定相關的算法運行機制，進行必要的、可以爲一般公衆理解的解釋說明。本案被告敗訴，就是因爲法院認定被告沒有盡到這樣的解釋說明義務。

涉AI糾紛有哪些特點？

近年來AI亂象導致的一些糾紛，有哪些趨勢或者特點？主要集中在什麼方面？

張倩：近兩年北京互聯網法院受理的涉AI糾紛，絕對數量仍然不多，但是也確實呈現出明顯的增多趨勢，並且涉及各種各樣的案件類型。佔比較大的幾類案件是：

涉AI的人格權糾紛，比如AI聲音權案、AI換臉案、AI陪伴案、AI惡搞案等，都涉及使用AI軟件侵害他人的肖像權、名譽權、聲音權、個人信息權益等人格權利或者權益的問題。

涉AI的著作權糾紛，涉及使用AI軟件生成的圖片視頻等是不是構成作品，以及未經許可使用他人利用AI軟件生成的前述內容，是否侵害著作權的問題。或者涉及AI大模型使用他人作品進行訓練是否構成侵權的問題。

像本案這類合同糾紛，存在合同關係的雙方之間，比如平臺和用戶，由於一方使用了AI技術所引發的糾紛。

北京互聯網法院受理案件的情況充分反映出來，近兩年我國AI技術確實處在一個高速發展，而且應用場景不斷豐富的階段。對於法院來說，樹立既有利於AI技術發展，又有助於當事人權益保護的裁判規則，是一個非常大的挑戰。