ChatGPT用戶數增至7億,推出AI聊天防沉迷提示
OpenAI最新披露的數據顯示,ChatGPT的周活躍用戶數有望達到7億,這一數據是去年的4倍。根據外媒披露,2025年OpenAI收入增長快速,過去六個月年度經常性收入達到120億美元。
可能是用戶數據激增,OpenAI近來對於AI使用安全表現得格外關注。8月4日,OpenAI爲ChatGPT設置了“防沉迷”提示,OpenAI表示他們正在優化ChatGPT,以更好地檢測心理或情緒困擾信號,作出恰當迴應,同時長時間使用時會收到溫和的休息提醒,針對高風險個人決策的新迴應方式即將推出。
OpenAI表示,衡量產品成功的標準,不是看用戶花了多少時間或點擊了多少次,而是看用戶離開時是否達成了來時的目的。設計ChatGPT的初衷是幫助用戶取得進步、學到新知、解決問題,而並非佔據用戶的注意力。很多時候,在產品裡花的時間越少,反而越說明它奏效了。有了ChatGPT Agent(智能體)等新功能,用戶甚至可以在完全不打開應用的情況下達成目標。
但OpenAI也表示,今年早些時候,一次更新讓模型變得過於“迎合”,有時會說些好聽的話,卻未必真的有用。於是OpenAI撤回了那次更新,調整了反饋機制,並且正在改進評估方式,將更關注長期的實際效用,而非當下用戶是否喜歡的答案。
OpenAI正對ChatGPT做出調整,改進模型並開發工具以更好地檢測心理或情緒困擾信號,讓 ChatGPT能恰當迴應。“我們正在與專家密切合作,改進ChatGPT在關鍵時刻的反應方式。”OpenAI聯合了30多個國家的90多位醫生,包括精神科醫生、兒科醫生和全科醫生,共同制定了用於評估複雜多輪對話的定製化標準,組建了由心理健康、青少年發展和人機交互領域專家組成的顧問團,確保OpenAI的方法能反映最新研究成果和實踐。
與此同時,爲了幫助用戶掌控時間,即日起,長時間使用時會收到溫和的休息提醒,OpenAI將不斷調整提醒的時機和方式。當用戶提出諸如“我該和男友分手嗎?”這類問題時,ChatGPT不該直接給答案,而應幫助用戶梳理思路,例如提出問題、權衡利弊。OpenAI表示,針對高風險個人決策的新迴應方式即將推出。
7月中旬,OpenAI推出ChatGPT Agent時,OpenAI CEO山姆·奧特曼曾表示,ChatGPT智能體的潛在風險不容忽視。OpenAI內置了大量安全防護機制和警示功能,並從魯棒訓練、系統防護到用戶控制部署了比以往任何時候都更全面的風險緩解措施,但無法預見所有可能的情況。本着迭代部署的原則,OpenAI會向用戶發出充分警示,同時允許用戶在謹慎考量後自主決定是否採取行動。“如果向家人解釋這款產品,我會說它處於技術前沿,尚屬試驗階段。這是一個體驗未來的機會,但在我們通過實際應用研究並改進它之前,不建議用於高風險場景或涉及大量個人信息的場合。”