阿里千問3全系適配蘋果MLX框架

人民財訊6月17日電,6月17日,記者獲悉,阿里巴巴通義團隊開源了全新的千問3量化模型,完成基於蘋果硬件的MLX框架的全系模型深度適配。

據瞭解,MLX框架是專爲蘋果芯片優化的機器學習框架,在AI開源社區廣受關注。此次千問3一次性推出32個官方MLX量化模型,包含4bit、6bit、8bit和BF16等不同精度,可最大程度滿足開發者在Mac Studio、Macbook、iPhone等不同蘋果硬件上部署大模型的需求。