AMD與輝達AI算力池開放業者申請 不得使用DeepSeek
中國國產AI大模型DeepSeek近日橫掃全球。(路透)
數發部去年採用輝達與AMD晶片建置AI算力池,開放產業申請使用。數發部表示,今年第一梯次的算力申請到3月7日截止,若審查順利的話,申請者預計4到5月開始使用算力,全年預計還會開放2梯次算力申請。
不過,因爲算力平臺使用政府資源,計劃執行單位臺智雲代表提醒,申請團隊必須注意規範,包括不能拿算力來做虛擬貨幣的驗證計算(即挖礦)、不能違反法規或公序良俗,此外,也不能使用來自中國的開源模型,例如DeepSeek進行算力平臺的訓練與使用。
數發部數位產業署今天舉行算力申請說明會,現場約50到60人蔘與,不少與會業者對於申請資格、算力平臺運用方式相當好奇,線上表單提問也十分踊躍。
數產署官員指出,數發部透過建立AI算力池,減輕業者的建置成本,幫助產業發展創新想法。今年因預算刪減,只能繼續維運去年的40片GPU算力池,今年目標協助150家次資服業者做開發應用,全年預估還有另外2梯次的算力申請。
數產署指出,平臺算力採用輝達的H100晶片32片、AMD的MI300X晶片8片,團隊可選擇申請0.5片、1片或4片晶片算力,一次申請使用最長爲6周。審查團隊審覈通過後將通知申請團隊,預計最快4到5月可以使用算力。
數發部去年中啓動AI算力池計劃,吸引90多家業者前來申請,最後64家業者獲選使用。計劃執行單位臺智雲代表說明,隨着AI推論模型快速發展,預期今年申請狀況會比去年更爲踊躍。基本上所有資服業者都可以申請算力,只是若爲成立8年以下的新創則具備加分項。
專攻在地語音AI技術的長問科技今天分享去年使用數發部算力平臺的經驗,副總經理陳又碩指出,語音模型的訓練因牽涉許多語料(語言的相關紀錄資料),需要大量算力,申請算力平臺確實加快模型的訓練速度。
陳又碩說明,運用算力平臺訓練在地化語音辨識模型,模型可以支援中文、臺語、客家語與英語,訓練資料量約115萬筆。測試發現,如果是中英混雜的錄音內容,模型辨識正確率可高達92.2%,國語跟臺語混雜的正確率也有82.4%,遠高於OpenAI WhisperLarge V3模型表現。