大模型正确调用方式

1、ollama 安装

curl -fsSL https://ollama.com/install.sh | sh

如果是AutoDl服务器，可以开启学术加速。

source /etc/network_turbo

本次使用腾讯云Cloud Studio，所以已经安装好了 Ollama

2、启动

ollama run 模型的名字

ollama serve # 开启服务

ollama run llama3:1b

pip install openai

其中模型的名字在 ollama 官网上查找。

3、脚本

单轮对话，运行一次就结束了

多轮对话