字節跳動Seed開源VeOmni框架

爲推動全模態大模型的研究與應用，字節跳動Seed團隊發佈並開源了全模態PyTorch原生訓練框架——VeOmni。據介紹，VeOmni採用以模型爲中心的分佈式訓練方案，可將複雜的分佈式並行邏輯與模型計算解耦，爲全模態模型組合設置高效的並行訓練方案。這一方式可大幅降低工程開銷，提升訓練效率和擴展性，將數週的工程開發時間縮短至幾天。