当前位置: 首页 > news >正文

基于MindFormers实现GPT2模型的推理

前言

针对MindFormers的安装,可参考本专栏里的另一篇博客

安装MindFormers(昇腾910)-CSDN博客

pipeline方式

from mindformers import pipeline
from mindformers import GPT2LMHeadModel, GPT2Config, GPT2Tokenizer
tok = GPT2Tokenizer.from_pretrained("gpt2")
gpt_model = GPT2LMHeadModel.from_pretrained("gpt2")
prompt="I love Shanghai"
text_generation = pipeline(task='text_generation', model=gpt_model, tokenizer=tok, max_length=50)
outputs=text_generation(prompt, top_k=3)
print(outputs)

持续更新中...

http://www.lryc.cn/news/417158.html

相关文章:

  • 探索腾讯云AI代码助手:智能编程的新时代
  • MySQL 之 MHA 高可用架构详解
  • WangEditor自定义新元素,并解决自定义元素中换行无法消除样式的问题
  • VBA Excel口算题
  • C++理解临时对象的来源
  • C++协助完成返回值优化
  • 2024年睿抗机器人开发者大赛(RAICOM)国赛题解
  • 声明式UI语法
  • JDBC连接数和1521连接数之间的区别和联系(Java Database Connectivity)
  • Leetcode - 136双周赛
  • SQLite ORDER BY 语句
  • MTK Android12 系统中应用加载 .so 文件的问题分析
  • bpmn简单使用(制作流程图)
  • 【算法模板】算竞技巧:Python对拍数据生成
  • 计算机基本理论与程序运行原理概述
  • SpringBoot中的server.context-path
  • AI绘画绘画 Stable Diffusion ,从零开始轻松变现,AI绘画副业创收指南,一天一个AI帮你赚钱小技巧!
  • 阿里云镜像站,提供了各种第三方镜像地址
  • stm32入门学习11-硬件I2C和MPU
  • 如何在C++、PHP、GO中使用AI生成PPT API接口
  • 力扣面试150 逆波兰表达式求值 栈 模拟栈
  • 动手学深度学习V2每日笔记(深度卷积神经网络AlexNet)
  • 室内定位:紧耦合的学习惯性里程 (TLIO)
  • 【面试之算法篇】寻找二叉树中两个节点的最低公共祖先
  • 使用Unity开发编辑系统时复制物体的一些细节问题
  • 【C++】模版初阶+STL简介
  • Vue3中的toRef和toRefs的区别和用法
  • 【docker快捷部署系列一】docker快速入门,安装docker,解决运行Docker Quickstart Terminal出错
  • vulnhub靶机实战_DC-8
  • 如何做到项目真实性优化?保姆级写简历指南第五弹!