MLX

MLX 是一个类似于 NumPy 的数组框架， 专为在 Apple 硅基芯片上高效且灵活地进行机器学习而设计， 由 Apple machine learning research 为您呈现。

安装与设置

安装几个 Python 包：

pip install mlx-lm transformers huggingface_hub

聊天模型

查看 使用示例。

from langchain_community.chat_models.mlx import ChatMLX

API 参考:ChatMLX

大型语言模型

MLX 本地管道

查看 使用示例。

from langchain_community.llms.mlx_pipeline import MLXPipeline

API 参考:MLX 管道