MLX 是一个用于在 Apple Silicon 上进行机器学习研究的数组框架,由 Apple 机器学习研究团队推出。
MLX 是由机器学习研究人员为机器学习研究人员设计的。该框架旨在易于使用,同时在训练和部署模型时仍保持高效。框架本身的设计也概念简单。我们的目标是让研究人员能够轻松扩展和改进 MLX,从而快速探索新想法。
通过 MLX,可以在 Apple Silicon 设备上加速 LLMs,并且可以非常方便地在本地运行模型。
现在 Apple MLX 框架支持 Phi-3.5-Instruct(Apple MLX 框架支持)、Phi-3.5-Vision(MLX-VLM 框架支持)和 Phi-3.5-MoE(Apple MLX 框架支持)的量化转换。接下来让我们尝试一下:
python -m mlx_lm.convert --hf-path microsoft/Phi-3.5-mini-instruct -q
python -m mlxv_lm.convert --hf-path microsoft/Phi-3.5-vision-instruct -q
python -m mlx_lm.convert --hf-path microsoft/Phi-3.5-MoE-instruct -q
实验室 | 介绍 | 进入 |
---|---|---|
🚀 实验室-介绍 Phi-3.5 Instruct | 学习如何使用 Apple MLX 框架来使用 Phi-3.5 Instruct | 进入 |
🚀 实验室-介绍 Phi-3.5 Vision(图像) | 学习如何使用 Apple MLX 框架来分析图像 | 进入 |
🚀 实验室-介绍 Phi-3.5 Vision(MoE) | 学习如何使用 Apple MLX 框架来使用 Phi-3.5 MoE | 进入 |
-
了解 Apple MLX 框架 https://ml-explore.github.io/mlx/
-
Apple MLX GitHub 仓库 https://github.com/ml-explore
-
MLX-VLM GitHub 仓库 https://github.com/Blaizzy/mlx-vlm
免责声明: 本文档是使用基于机器的人工智能翻译服务翻译的。虽然我们力求准确,但请注意,自动翻译可能包含错误或不准确之处。应将原文档的母语版本视为权威来源。对于关键信息,建议进行专业人工翻译。对于因使用此翻译而引起的任何误解或误读,我们不承担责任。