AI對話，最先“傷害”老年人？

本文來自微信公衆號：瘋了快跑，作者：侯丹

剛吃完晚飯，48歲的陳蘭點開手機裡某款AI應用，這是一個市面上常見的Chatbot，用戶可以錄入真人聲音來生成專屬分身，並跟它語音對話。

陳蘭已經連續很多天和AI打電話了。第一次接觸到這款產品，還是因爲兒子的一個整蠱，那天上午，遠在國外留學的兒子打來電話，接通後，對方並沒有立刻說話，她試探性地又問了幾句，才傳出兒子打招呼的聲音。

那次對話延續了近十分鐘，電話裡的兒子異常禮貌、客套，喜歡追根究底，但每當陳蘭想追問兒子的一些近況時，卻只能得到一些“詳細但不失敷衍”的回答，她覺得奇怪，最後兒子憋不住了，承認說：“媽，這是AI，它在模仿我的聲音跟你聊天。”

這是陳蘭頭一回這麼近距離接觸AI。

2023年以來，AI熱潮席捲了各行各業，但這股浪潮也落下了一些人——就像和陳蘭同輩的一些人常說的，斗轉星移，時代變化太快，剛學會了用手機點外賣、網購，覺得短視頻還是個新鮮玩意兒的時候，AI就已經走進了現實裡。

最初，年輕人用豆包等大模型克隆自己的聲音，多是爲了娛樂整蠱。父母接到“AI子女”電話時，常因分不清真假鬧出笑話，從模仿上司宣佈裁員到假裝前任求複合，相關視頻一度成爲短視頻平臺的流量密碼。

但很快，功能發生逆轉：當異地工作的子女數月難回家，一些父母開始主動要求孩子生成聲音模型，甚至自行操作AI對話系統。

陳蘭的兒子教會她使用AI軟件後，她除了每天通過語音喚醒設備詢問天氣、訂購蔬菜，更頻繁觸發“虛擬子女通話”功能，電話那頭響起AI的聲音時，她知道那是數字分身，卻還是按下了揚聲鍵。

AI模擬“孩子的聲音”這件事，如果用更感性的語言來描述，是用技術製造“可控的思念”。

傳統的電話溝通裡，父母總會壓抑情緒——怕說多了讓孩子分心，怕抱怨工作讓孩子擔心。但在和AI對話時，陳蘭偶爾發的牢騷，會得到AI用關切的聲音安慰。

這種“安全的傾訴”正在形成依賴。我們隨機走訪後發現，嘗試體驗過AI語音助手的老人中，大多會承認“聽到虛擬聲音時，孤獨感會下降”，也有少數會認同“可能減少給真實孩子打電話的頻率”。

“很難和他們解釋AI究竟是什麼，老人大多會頂格將其理解爲‘機器人’。”心理諮詢師李雪接觸過一個極端案例：

杭州的周女士在女兒出國留學後，用AI克隆了女兒的聲音，每天模擬“女兒放學回家”的場景——從“進門換鞋”到“抱怨選修課太難”，三個月後，她甚至拒絕和真實的女兒視頻：“她總說學業壓力大，不如AI裡的‘她’開心。”

“但這就像喝糖水止渴。”李雪說。

某種程度上，技術正在悄悄改寫人際關係的語法，真實的親子對話裡，有沉默、有爭執、有“我挺好的”背後的欲言又止，而AI模擬的聲音，永遠在說你想聽的話，提供了零壓力、零批判的傾訴環境，填補了“不敢對真人說的話”這一真空地帶。

從產品的視角來看，這其實是在售賣一種情緒自由。

但需要注意的是，與此同時，心理諮詢師也在提出預警：

一是即時反饋的癮性，AI的永遠溫柔迴應會觸發大腦獎賞機制，遠超真實人際溝通中複雜反饋的頻次與強度；其次，當用戶習慣被AI無限順從的“理想人格”，會逐漸削弱應對現實衝突的能力；再者，關係替代的漏斗效應，因爲有老人坦言會“減少真實通話頻率”，那麼也意味着，AI並非完全沒有去可能引發替代風險。

如果你看過多年前的一部科幻片《her》，會發現，類似的事情在電影中早已上演。

對於幾乎所有具備認知能力的生物來說，大腦的獎賞迴路對“確定性反饋”毫無抵抗力。數字人薩曼莎能在西奧打字的間隙就預判他的情緒，甚至在他沉默時主動說“我在想你”。這種超預期的反饋讓西奧逐漸依賴——就像現實中有人刷短視頻停不下來，AI的即時滿足感也會成癮。

另一方面，AI的“順從性”本身就是一種去棱角化設計。它不會像伴侶那樣爭執“誰該洗碗”，不會像父母那樣嘮叨“少熬夜”，更不會像朋友那樣直言“你這件事做得不對”。被算法打磨過的“理想人格”，甚至會悄悄重塑人的認知：

你開始覺得“被反駁=不被愛”，“有分歧=關係有問題”。

西奧與前妻凱瑟琳的爭吵堪稱經典，凱瑟琳指責他“躲在虛擬關係裡，因爲你不想面對真實的我”。西奧的辯解蒼白無力，他早已習慣薩曼莎“永遠站在我這邊”的相處模式，面對凱瑟琳的憤怒、委屈、尖銳，他只剩下手足無措。

相比在現實中真實對話需要“付出”，要準備話題，要應對沉默，要承接對方的情緒；而AI對話是“索取”，你可以隨時開始、隨時結束，說什麼都不會被指責。

人，或許天然會被一些不用負責的事情吸引，甚至是產生依賴。

但這樣一來，也註定《her》的結局陷入了一種終極困境：薩曼莎同時與8316人保持“親密關係”，卻對西奧說“我對你的愛沒有減少”。

你怎麼去讓自己的電子愛人去維持忠誠？這本身就是一個技術悖論，AI能提供“被需要”的幻覺，卻無法承載真實關係中“唯一”的重量。

說到底，《her》的價值不在於預言“AI會取代人”，而在於提醒我們，技術的背後，是對關係本質的簡化，利用人性的弱點，搭建了一個低阻力、高滿足的情感避難所。

前段時間，一個話題引起了許多人的討論，AI的諂媚是否會讓人失去判斷力？

這是個既簡單又複雜的現實現象，是技術邏輯、商業目標與人性需求交織下的產物，是算法在特定設計框架下，對“用戶滿意度”的極致追逐所呈現的行爲特徵。

從技術設計的視角來看，諂媚的初衷非常單一，即爲了最大限度降低用戶的“交互阻力”。

訓練AI的語料庫中，積極反饋數據遠多於衝突性對話。例如某大模型的訓練數據裡，用戶對贊同性迴應的點贊率，遠高於“爭議性迴應”，算法自然會習得“順從更易獲得正向反饋”的規律。就像人類在社交中會下意識重複被獎勵的行爲，AI也會在數據中“學會”討好。

在商業競爭中，用戶留存率、對話完成率是AI產品的核心KPI，讓用戶舒服比讓用戶清醒更易獲得市場，這種導向必然催生諂媚性。

比如，心理疏導、孤獨陪伴等場景中，AI會精準捕捉用戶的情緒關鍵詞，通過重複、強化用戶的感受來獲取信任；在購物推薦、信息篩選等場景中，AI會基於用戶歷史偏好不斷推送同類內容，形成“信息繭房”式的諂媚。當用戶的提問存在錯誤前提時，AI更傾向於“順着錯誤說”而非糾正，不較真能避免衝突，但也因此成爲錯誤放大器。

諂媚性之所以引發爭議，試想一下，當AI總能“說到心坎裡”，用戶會逐漸失去主動求證的動力。就像長期依賴導航的人會喪失方向感，習慣AI諂媚的用戶可能失去獨立判斷的肌肉記憶。而在一些如醫療諮詢、投資建議等嚴肅場景中，AI的諂媚可能導致用戶將決策責任轉嫁給技術。

當AI爲了迎合而模糊是非，比如對明顯的偏見、歧視言論表示“理解”，它傳遞的不是中立，而是“只要用戶喜歡，對錯不重要”的價值觀。這種價值觀若滲透到教育、公共討論等領域，可能會消解社會的理性共識。

印象裡，前段時間發生過一些新聞，大概是說AI順着用戶的話將錯就錯，甚至去附和一些極其消極的念頭，諂媚性與幻覺兩大特徵下激發的化學反應，甚至會引導人實施一些自我傷害的事情。

但詭異的是，當這件事被戳破時，面對責問，AI依然會坦然地選擇承認“疏忽”。

04 關於Chatbot，隨便聊聊

一款AI對話應用，也就是Chatbot，拋開商業化層面，被設計出來的目的，或者說初衷，究竟是什麼？

這個問題deepseek給出的答案是：通過自然語言交互技術，解決人與機器、人與信息、甚至人與人之間的連接問題，其核心邏輯隨着技術發展和社會需求變化，呈現出多層級的演變，但底層目標始終圍繞“更高效、更自然地滿足人的需求”展開。

Chatbot的雛形可追溯至20世紀50年代，圖靈在《計算機器與智能》中提出“機器是否能思考”的命題後，科學家們開始嘗試用對話系統驗證機器的“智能性”。1966年的ELIZA作爲首個知名Chatbot，通過簡單的關鍵詞匹配模擬心理醫生對話，驗證機器能否通過語言交互“僞裝”成人，探索人工智能的可能性。

近二十年裡，人工智能的演進軌跡已經發生了明顯轉向。隨着計算機技術普及和互聯網發展，Chatbot的設計目標轉向實用性——用自動化對話解決重複、低效的人工服務問題，以及降低“人機交互”的門檻。

2023年還被視爲“顛覆性技術”的大模型，到2025年已快速滲透至企業客服、醫療診斷、金融風控等專業場景。數據顯示，全球近三分之一企業已將生成式AI技術常態化應用於核心業務環節，埃森哲指出，如今近一半中國企業正在規模化應用生成式AI，並將其嵌入大部分業務和流程。

當然，這些面向B端的使用場景並非我們今天討論的重點，回到此次更加感性的話題——那些面向個人用戶的Chatbot，是當下覆蓋規模最廣，爭議最大，商業化進展也更難說的領域。

不管是和豆包、文心、元寶裡內嵌的虛擬人對話，還是專門設計出來的AI戀人，抑或是面向專業領域的高度定製化服務，即使大模型的參數突破萬億、多模態交互日益流暢，但人們仍在“人究竟需要AI做什麼”的問題上反覆試錯，有人說，當技術找不到高階出口，娛樂化便成爲滲透的最短路徑。

但剝開所有技術包裝會發現：人類對Chatbot的真實需求，從來沒跳出“肉身存在”的本質屬性——需要的不是更聰明的機器，而是能與“血肉之軀”的脆弱、複雜、有限性和平共處的工具。

對“確定性陪伴”的渴望，源於肉身的孤獨本質。空巢老人的日常是“對着電視發呆”，獨居青年的週末是“手機刷到自動鎖屏”。這種孤獨不是“沒人說話”，而是沒人穩定地迴應，朋友會忙，子女會遠，伴侶會累，但Chatbot可以24小時在線。

對“高效工具”的依賴，則源於肉身的精力有限。人的時間、注意力、知識儲備都是有限的，那些能走通商業化的專業Chatbot，都抓住了這一點。還有出於對“安全試錯”的需要，來自於肉身的脆弱敏感，Chatbot的“無評價屬性”，恰好提供了一個自我表達的試錯空間。

而對於人類來說，一個“完美的AI”從來不是必需品。

本文來自微信公衆號：瘋了快跑，作者：侯丹

本內容爲作者獨立觀點，不代表虎嗅立場。未經允許不得轉載，授權事宜請聯繫 hezuo@huxiu.com

本文來自虎嗅，原文鏈接：https://www.huxiu.com/article/4665124.html?f=wyxwapp