OpenAI警告：不要過度信任AI 其本身不完全可靠

近日據媒體報道，OpenAI首席執行官薩姆·奧特曼接受採訪時發出警示：儘管ChatGPT在全球範圍內獲得廣泛認可，但用戶對其毫無保留的信任態度值得警惕。

"最讓我驚訝的是人們如此輕易地相信ChatGPT給出的答案，"奧特曼坦言。儘管這款AI聊天機器人已被廣泛應用於教育輔導、學術研究甚至育兒建議等關鍵領域，但其本身並不完全可靠。奧特曼特別強調了一個關鍵技術侷限："AI會產生'幻覺'，這意味着它可能自信地給出完全錯誤或誤導性的信息。"

自2022年11月發佈以來，ChatGPT憑藉其卓越的自然語言處理能力迅速風靡全球。但隨着應用場景的不斷擴展，關於其準確性、偏見和潛在風險的爭議也日益凸顯。

奧特曼提醒所有用戶，在使用這類生成式AI工具時必須保持批判性思維，對輸出內容進行必要驗證。

在談及產品發展時，奧特曼透露了ChatGPT即將推出的重要更新，包括"持久記憶"功能——允許系統記住用戶的對話歷史，以及可能引入的廣告商業模式。這些創新雖然能提升用戶體驗和商業可持續性，但也將帶來新的隱私保護和數據安全挑戰。