MLX

MLX 是一个NumPy类数组框架 专为高效、灵活的机器学习而设计Apple硅 提供给您Apple machine learning research.

安装和设置

安装多个 Python 包：

pip install mlx-lm transformers huggingface_hub

聊天模型

请参阅使用示例。

from langchain_community.chat_models.mlx import ChatMLX

API 参考：ChatMLX

LLM

MLX 本地管道

请参阅使用示例。

from langchain_community.llms.mlx_pipeline import MLXPipeline

API 参考：MLXPipeline