【一】Mac 本地部署大模型

盘古开天辟地开始

# 安装brew/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"(echo; echo 'eval "$(/opt/homebrew/bin/brew shellenv)"') >> /Users/wangxin52/.zprofileeval "$(/opt/homebrew/bin/brew shellenv)"

# 创建相应的 conda 环境
conda create --name chatmodel python=3.9conda activate chatmodel#安装依赖包
conda install mlx=0.1# 安装 mac 本地混合大模型pip install chat-with-mlx

chat-with-mlx的 git：https://github.com/qnguyen3/chat-with-mlx 如果上述安装不成功，可以参照这个 git 进行安装