法國哲學家挑戰微軟聊天機器人：機器還是我？

-社論-

巴黎——本週早些時候，就在人工智能世界峰會即將召開之際，我在技術上邁出了驚人的一步：在數月的迴避之後，我更新了我的Word應用程序。這種拖延並非完全沒有理由。首先，我想完成一部小說的初稿，因爲對於一個整天盯着電腦靜止頁面的作家來說，Word不只是一個文字處理程序。它是工匠的工具，精心設置以滿足自己（這裡是最低限度的）需求，由於文檔積累和字符計數器轉動，實際上已經被用舊了，而你會像木匠離不開錘子一樣對它產生依賴。我太擔心更新會弄壞我的小錘子了。

太棒了。在正常重啓電腦之後，一隻五彩的蒼蠅出現在我的屏幕上：微軟的生成式人工智能助手Copilot。它現在緊挨着我的每一行文字，主動提出要爲我寫作。“加斯帕德，你累了，”蒼蠅說道，“把事情交給我吧。相信我。我是你的奴隸：給我下命令，我就會執行。你的讀者不會察覺出任何異樣的。”

我憤怒地迴應道：“走開，撒旦！這些是我的話語、我的思想、我的作品、我的生活。”但是這隻小蒼蠅一直在我眼前飛舞。怎麼趕它都趕不走。微軟剛剛犯下了不可饒恕的褻瀆之罪。它強行將一個機器人引入到創作過程的核心之中。

當人工智能（順便說一下，這是一項強大的技術）開始侵入我們的日常生活時，這就是我一直擔心會出現的危險。我們越來越習慣把選擇的能力交給機器，出於懶惰或者舒適。然而，一個不再行使自由意志的人最終會失去自由意志，這標誌着現代個體的終結。

神經學研究表明，整天聽從導航應用程序指示的私家車司機，其大腦中負責決策的區域會出現萎縮。Copilot之於思維，就如同Waze（一款導航應用）之於出行。將自我表達託付給機器人是自願爲奴的最後一步。簽署一封並非自己所寫的電子郵件是一種放棄所有尊嚴的行爲。

Copilot體現了“助推”（nudge）的本質，這種微小的推動會將我們的思維置於便捷的軌道上，然後通過算法關聯的無情遊戲，最終將我們的思維簡化爲同類的統計平均值。僅僅是Copilot這個名字，對身爲作者的我就是一種侮辱，過去20年我獨自在自己的小屋裡，突然被一個喋喋不休的鄰居所累。在我艱難地試圖規劃自己的路線時，這個副駕駛不斷地將我拉回到熟悉的路徑、輕鬆的方式和從衆的想法上。

面對這種生存威脅，微軟的經濟敲詐手段幾乎都退居其次了。微軟不滿足於私自修改我購買的產品，還宣佈提高訂閱費用來爲Copilot提供資金。換句話說，要爲我們不想要的東西付費。

更糟糕的是，我們現在正在免費爲微軟工作，微軟極有可能會用我們的文本來訓練其人工智能。該公司明確表示：“當用戶與Microsoft 365 Copilot（使用Word、PowerPoint、Excel、OneNote、Loop或Whiteboard等應用程序）交互時，我們會存儲有關這些交互的數據。”這不僅是對我們創作隱私的不可接受的侵犯，也是對我們所創造價值的無端侵佔，是對版權源頭的打劫。

令我更加沮喪的是，到目前爲止，微軟在一個無法無天的數字資本主義中一直代表着純潔的堡壘。我和最早的Word程序誕生於同一時期。10歲時，我開始在Macintosh 128k鍵盤上學習打字，那是一個嗡嗡作響的大保險箱，預示着一個更美好的未來。我的父母用打字機寫了他們的第一本書和文章，最終能擺脫剪刀、透明膠帶和修正液，他們很是欣喜；不再被修正帶和皺巴巴的紙張所糾纏。⌘C，⌘V：這就是進步。

這些天在巴黎開會的決策者們似乎被人工智能蠱惑了。我建議他們去看看計算機論壇，在那兒Word用戶會分享如何擺脫Copilot（在某些電腦上顯然是可行的）的小竅門，並且會委婉地抱怨人工智能對他們造成的侵害。

使用人工智能必須始終是一種有意識的選擇，且僅限於我們自己定義的用途。如果公共機構有一個使命的話，那就是不要成爲初創企業的推銷員，而是要保護公民的自由。把屬於我的小錘子還給我（這裡的小錘子可能是一種比喻等，需結合原文語境理解）！