当前位置: 首页 > news >正文

基于dashscope在线调用千问大模型

前言

dashscope是阿里云大模型服务平台——灵积提供的在线API组件。基于它,无需本地加载大模型,通过在线方式访问云端大模型来完成对话。 

申请API key

老规矩:要想访问各家云端大模型,需要先申请API key。

对于阿里云,需要先访问:https://dashscope.console.aliyun.com/。然后注册一个账号,接着就可以申请sk-开头的api-key了,如下图所示。

有了key后,就可以点击上面选项:模型体验中心,输入简单的prompt来验证本地电脑访问阿里云网络通信有没有问题:

 代码

下面是一个简单python代码,自己封装message,并添加api-key,并通过在线方式访问Qwen大模型进行对话。

import dashscope
from typing import List
import loggingclass Params:def __init__(self, model, temperature, api_key, messages):self.model = modelself.temperature = temperatureself.api_key = api_keyself.messages = messages #List[Dict[str, str]]class QwenClient:def __init__(self, log_verbose: bool = False):self.log_verbose = log_verboseself.logger = logging.getLogger(__name__)if log_verbose:self.logger.setLevel(logging.INFO)def call_qwen(self, params: Params) -> List[dict]:# 加载配置文件,根据需要选择第一个模型        if self.log_verbose:self.logger.info(f'{self.__class__.__name__}:params: {params}')# 初始化生成器对象gen = dashscope.Generation()# 调用千问API并获取回复responses = gen.call(model=params.model,temperature=params.temperature,api_key=params.api_key,messages= params.messages,result_format='message',stream=True,)        print("responses: ", responses)# 处理API返回的结果response_list = []for resp in responses:if resp["status_code"] == 200 and "output" in resp and "choices" in resp["output"]:choice = resp["output"]["choices"][0]["message"]["content"]response_list.append({"error_code": 0, "text": choice})else:error_data = {"error_code": resp["status_code"],"text": resp["message"],"error": {"message": resp["message"],"type": "invalid_request_error","param": None,"code": None,}}self.logger.error(f"请求千问 API 时发生错误:{error_data}")response_list.append(error_data)return response_list# 使用示例
if __name__ == "__main__":logging.basicConfig(level=logging.INFO)#model_names = ["qwen-turbo"]client = QwenClient(log_verbose=True)user_input = "你好,请问今天北京天气怎么样?"messages = [{"role": "user", "content": user_input}]params = Params("qwen-turbo", 0.7, "sk-axxxxxx3b4a2fa1cb1dd7e71a4bee", messages)responses = client.call_qwen(params)print("千问的回答:", responses[-1]["text"])

 需要先安装好组件:dashscope,typing以及logging。本平台是ubuntu20.04,直接输入:python3 xxx.py即可到预期结果:

http://www.lryc.cn/news/312396.html

相关文章:

  • 【Python】可变数据类型 不可变数据类型 || hash
  • MySQL 篇-深入了解多表设计、多表查询
  • 【Java】Spring的ReflectionUtils类常用方法学习笔记
  • 内存函数详解
  • 事务(transaction)
  • Linux之cd、pwd、mkdir 命令
  • 【python高级编程教程】笔记(python教程、python进阶)第三节:(1)多态与鸭子类型(Polymorphism and Duck Typing)
  • 学习JAVA的第十五天(基础)
  • LVS四层负载均衡集群
  • 【pyinstaller打包记录】程序使用多进程,打包后,程序陷入死循环
  • MAC | linux | SSH 密钥验证
  • 【AI Agent系列】【MetaGPT多智能体学习】3. 开发一个简单的多智能体系统,兼看MetaGPT多智能体运行机制
  • 机器学习-面经(part7、无监督学习)
  • teknoparrot命令行启动游戏
  • 停止Tomcat服务的方式
  • 多线程相关面试题(2024大厂高频面试题系列)
  • mysql 时间精度问题
  • 基于python的爬虫原理和管理系统实现(代码下载)
  • IOS 设置UIViewController为背景半透明浮层弹窗,查看富文本图片详情
  • 网络层介绍
  • springboot/ssm酒店客房管理系统Java在线酒店预约预定平台web
  • 分布式测试插件 pytest-xdist 使用详解
  • 【S32K3 MCAL配置】-1.1-GPIO配置及其应用-点亮LED灯(基于MCAL)
  • 【软件工程】软件工程定义、软件危机以及软件生命周期
  • 24计算机考研深大经验分享(计算机专业考研综合安排)
  • 【知识整理】MySQL数据库开发设计规范
  • Vue自定义组件实现v-model
  • 【Linux】Linux网络故障排查与解决指南
  • 跟着cherno手搓游戏引擎【27】升级2DRenderer(添加旋转)
  • 中医舌苔笔记