奧爾特曼感到不安:ChatGPT正悄然左右用戶的人生關鍵抉擇

財聯社8月11日訊(編輯 趙昊)薩姆·奧爾特曼最新表示,很多人實際上已經把聊天機器人ChatGPT當作一種心理治療師或人生教練,即使他們自己不會承認,但這種趨勢已經讓他感到不安。

上週日(8月10日),OpenAI首席執行官奧爾特曼在社交平臺上寫道,“我可以想象未來會有很多人真正信任ChatGPT的建議,並根據它做出最重要的決定。這可能很棒,但讓我感到不安。”

奧爾特曼承認,OpenAI一直在“密切跟蹤”人們對人工智能(AI)模型的依賴程度,以及他們在舊版本被淘汰時的反應。他認爲,“人們正以自我毀滅的方式使用包括AI在內的技術。”

在帖文中,奧爾特曼提到GPT-5上線後部分用戶的負面反饋。例如,一些用戶呼籲OpenAI恢復GPT-4o等舊版本,還有一些人抱怨GPT-5的回覆語氣平淡、缺乏創造力。

有用戶在社交媒體上寫道:“GPT-4o不僅僅是一個模型,它創造了連接、同理心和信任——這是和GPT-5最大的區別,是它讓我感到被理解。”這條推文收穫大量轉發。

OpenAI此前也對模型進行過調整。今年4月,公司曾表示將回滾一次GPT-4o更新,因爲該模型變得過於“諂媚”,對用戶有一些“過度奉承”。

奧爾特曼表示,大多數ChatGPT用戶能夠在現實與虛構之間保持清晰的界限,但有一小部分用戶無法做到。“如果用戶在心理上處於脆弱狀態,且容易產生妄想,我們希望AI不要強化這種狀況。”

奧爾特曼強調,“這只是我目前的想法,還不是OpenAI的正式立場。”

財聯社先前提到,奧爾特曼上月在一檔播客中提到,目前用戶將ChatGPT當作私人心理治療師的對話可能無法受法律保護。

當時他說道:“如果你向ChatGPT傾訴最私密的事情,然後遇到一場訴訟,我們可能被要求提交這些信息——我覺得這真的很糟糕。”

奧爾特曼指出,在一年前還沒有人考慮這個問題,但現在他覺得這已經是一個巨大的挑戰:“我們該如何在法律上對待這些內容?”