3分之2文獻不存在…教科書遭爆是AI撰寫而成 國際知名出版社悲劇了

國際知名出版社Springer Nature被爆出教科書是用AI生成撰寫的。 示意圖／ingimage

AI應用範圍廣大，舉凡圖片、影像及文字皆可能爲AI生成，但也衍生真假難辨現象。加拿大約克大學副教授沈榮欽在臉書分享「用人工智慧寫人工智慧的悲劇」案例，國際知名出版社Springer Nature出版的教科書，被爆出內容可能是經由AI撰寫。

學者沈榮欽表示，國際知名出版社Springer Nature出版一本《Mastering Machine Learning: From Basics to Advanced》內容在講關於人工智慧的書籍，希望作爲學生機器學習的教科書，結果有讀者買回來讀完卻發現不對勁。

書中引用的46篇文獻中的18篇，三分之二可能不存在，不然就是引用錯誤，甚至還有文章作者發文坦承自己有寫過其中某一篇，但根本沒有在學術期刊上發表過。

此外，教科書裡的作者個人簡介Govindakumar Madhavan其實也是SeaportAI的創辦人兼CEO，書中其中一篇關於ChatGPT的文章還點出關於人工智慧生成文本的使用和濫用的重要倫理問題滿所以就有人寫信去問Govindakumar Madhavan，是否用人工智慧寫成這本教科書？結果未獲正面回答。

Govindakumar Madhavan僅模糊迴應，「判斷內容是否由人工智慧生成仍是一大挑戰，因爲即使是人類書寫的文本也可能看起來像人工智慧，隨着LLM（大型語言模型）在流暢性和複雜性方面持續提升，這一挑戰預計只會越來越大」。

後來Springer Nature出版社再次聲明，所有書籍手稿都會先由一位內部編輯進行初步評估，並決定是否將稿件提交進一步審閱。出版社的內容行銷經理 Deidre Hudson Reuss也寫道，「審稿者會判斷手稿的品質及原創性，且符合最高誠信和道德標準」，然後Springer Nature就把該教科書撤回了。

沈榮欽在留言底下貼出被撤回書籍的網頁，網頁介紹這本書爲「全面涵蓋機器學習所有方面的書籍」、「包含各種以雲端環境爲基礎概念的程式語言」、「囊括多媒體影片學習課程」。其他網友則留言「未來AI管理人類的狀況大致就是這樣」、「所以，到底誰纔是審稿者？」、「終於出現了人工智慧生成的僞書」、「AI寫給AI審，出版給AI看，然後濃縮成一句結論餵給人類」。