曝GPT-4.5本週空降!1T激活參數,120T訓練數據,邊思考邊吐出
嚯,萬衆期待的GPT-4.5,本週就要空降發佈?!
部分用戶的ChatGPT安卓版本(1.2025.056 測試版)上,已經出現了“GPT-4.5研究預覽(GPT-4.5 research preview)”的字樣。
下面緊跟着一段註釋:
網友們還貼出了更詳細的截圖。
而網絡上,更多關於GPT-4.5的消息被各方人士曝光,幾乎都能靠這些碎片爆料完成一整塊拼圖了(真誠臉.jpg)。
咱們來看——
兩週前,奧特曼本人曾大張旗鼓在自己的推特上劇透,“GPT-4.5將在未來幾周內發佈”。
也證實了GPT-4.5是此前多次被曝光的Orion(獵戶座)——Orion從去年8月浮出水面,它的定位是OpenAI新旗艦,也就是GPT-4的下一代。
同時奧特曼明確表示,GPT-4.5將會是OpenAI最後一個非推理模型。
在發佈GPT-4.5後,OpenAI將會把GPT系列和o系列模型合併爲一個單一的AI。
So,就在“未來幾周內”的今天,推特上,來自The information的Stephanie Palazzolo感慨了下自己今天忙碌的晨會都說了些啥。
第一條就是:“OpenAI領導者告訴員工,GPT-4.5將於本週推出。”
本週?今天週四了哎!
那……
而且GPT-4.5即將在本週空降的消息並不只是一家之言,網絡上,陸陸續續有人站出來說出了自己來源神秘的已知信息。
量子位篩選整理,與大家一起先睹爲快。
目前網絡上曝光的GPT-4.5是一個參數爆表的龐然大物。
具體來說,它是一個1T激活參數的Transformer MoE模型,在120T tokens數據上訓練。
友情提示,GPT-4是1.8T的總參數。
它的上下文窗口長度爲256K,自帶知識截至2024年6月。
此外,GPT-4.5還是一個具有人類視覺水平的Agent。
儘管奧特曼已經說過,GPT-4.5不是一個推理模型。
但有人發現,它吐輸出的過程非常與衆不同。
具體來說,GPT-4.5是邊思考邊吐結果的,而不是一次思考過後只吐一次結果。
下面這張圖是爆料人提供的GPT-4.5回覆結果,藍色框選部分是它的思考,思考一會兒後它會吐出階段性輸出,然後繼續思考一會兒,然後再吐出階段性輸出……
儘管不是長CoT,但這看起來還是和奧特曼預告的“非推理模型”有些出入。
具體怎麼樣,只有等真·發佈過後大家才知道啦~
不過有網友猜測,這一切都基於GPT-4.5已經對整個互聯網進行了RAG處理。
神通廣大的網友,爆出來的料都是列文虎克級別的——
連GPT-4.5新增功能及其效果都一併發出來給吃瓜羣衆看。
主要新增能力有二。
1)GPT-4.5,它可以製作動畫SVG文件。
和它提提修改意見,大概交流3-4輪過後,你將得到一個會翻白眼的蒙娜麗莎(?)
2)GPT-4.5可以零樣本製作音樂。
但請注意,它很有原則:拒絕製作受版權保護的歌曲。
來聽一段來自不知名的貝多芬選手的變奏,由GPT-4.5生成:
講道理,OpenAI上一次發音樂模型還是上一次,那是5年的事情了。
Jukebox,2020年4月30日發佈,是一個能夠在原始音頻域中生成音樂的模型,通過提供音樂流派、藝術家甚至歌詞的信息,Jukebox可以生成完整的音樂作品,包括人聲部分。
如果傳聞爲真,那GPT-4.5的多模態能力再加1分。
相關爆料人僅有這短短一句話,但非常期待1T激活參數的GPT-4.5,到底能有多便宜……
雖然GPT-4.5應該很快和大家見面,不過!
大家不要過於興奮。
一位測試過該模型的人士透露,GPT-4.5在某些任務上的表現好壞參半。
譬如,Anthropic前天發佈的混合推理模型Claude 3.7 Sonnet,就在某些基準測試中擊敗了它。
根據Claude系列素來的強項,很難不懷疑至少包含編程領域……
最後最後,大家一定要注意,根據現有信息,GPT-4.5首批似乎只針對Pro用戶開放。
就是一個月200美元那檔。
這就搞得很多網友都有些不爽,畢竟OpenAI現在四面受敵,至少也應該讓Plus用戶也搶先體驗上吧??
但有網友發出這樣的推論:
“奧特曼嘛,大模型屆的老營銷高手了。他也許先放出風聲,說首批體驗GPT-4.5的只有Pro用戶,然後後面告訴大家,我們也開放給Plus用戶,這樣大家就會對他好感度up up~”
咦,這個道理好像在哪裡聽過,就是想開窗先告訴大家要拆房頂(手動狗頭)。
但在正式發佈之前,一切都是未知數。
還是那句話,“本週發佈”,且今天已經是週四,大家不用着急,再等一會兒吧~
參考資料:[1]https://x.com/steph_palazzolo/status/1894785791018332505[2]https://x.com/WesRothMoney/status/1894802107812737153[3]https://x.com/ai_for_success/status/1894827569989734746[4]https://x.com/Zzullerr/status/1894834009655443505[5]https://x.com/literallydenis/status/1894843775769551228[6]https://x.com/techikansh/status/1894697272966820028[7]https://x.com/taker_of_whizz/status/1894775460602540147[8]https://x.com/literallydenis/status/1894851640940761169[9]https://x.com/imjustnewatai/status/1894547958240084148