ChatGPT耗電狀況 大揭秘

ChatGPT耗電狀況大揭秘,OpenAI執行長奧特曼除暢談對未來AI能力的想像,也罕見公開ChatGPT每次查詢的能耗數據,他指出,平均查詢一次僅需花費0.34瓦時電力,約等於一個烤箱一秒鐘、或節能燈泡數分鐘的耗電量。

奧特曼也說,隨着資料中心生產自動化提升,AI智慧成本最終應趨近於電力成本。他也認爲,雖然單次查詢能耗不高,但若AI應用無所不在,整體能耗仍將成爲未來社會需面對的重要課題。

AI爲產業發展帶來無窮想像空間,也推升源源不絕的電力需求,若從機櫃來看,傳統伺服器機櫃耗電量約4kW,等同一個家庭住宅的用電功率,而AI伺服器機櫃耗電量達到80kW,是傳統伺服器的20倍,未來若出現算力更強大的AI晶片,耗電量甚至可能持續往上,AI因此被形容爲「吃電怪獸」。

業界人士指出,過往單一伺服器氣冷散熱能解的熱,頂多是千瓦以下,如今隨着次世代AI晶片瓦數日益攀升,破千瓦的功耗已是「基本消費」。