当前位置: 首页 > news >正文

【nlp】2.2 传统RNN模型

传统RNN模型

  • 1 传统RNN模型
    • 1.1 RNN结构分析
    • 1.2 使用Pytorch构建RNN模型
    • 1.3 传统RNN优缺点

1 传统RNN模型

1.1 RNN结构分析

结构解释图:
在这里插入图片描述

内部结构分析:
在这里插入图片描述

我们把目光集中在中间的方块部分, 它的输入有两部分, 分别是h(t-1)以及x(t), 代表上一时间步的隐层输出, 以及此时间步的输入, 它们进入RNN结构体后, 会"融合"到一起, 这种融合我们根据结构解释可知, 是将二者进行拼接, 形成新的张量[x(t), h(t-1)], 之后这个新的张量将通过一个全连接层(线性层), 该层使用tanh作为激活函数, 最终得到该时间步的输出h(t), 它将作为下一个时间步的输入和x(t+1)一起进入结构体. 以此类推.
内部结构过程演示:
在这里插入图片描述

根据结构分析得出内部计算公式:

http://www.lryc.cn/news/230143.html

相关文章:

  • C/C++---------------LeetCode第49.字母异位词分组
  • spark调优案例分享
  • 阿里达摩院开源DAMO-YOLO
  • 【异常检测小集】
  • Mybatis-Plus的IPage和Page
  • jupyter lab常用插件集合
  • centos 6.10 安装 boost 1.78.0
  • Vue 3.0 + vite + axios+PHP跨域问题的解决办法
  • 软件外包开发的开发文档
  • 如何清理C盘文件
  • 从测试的角度看待南航机票bug事件
  • 通过 dump 虚拟机线程方法栈和堆内存来分析 Android 卡顿和 OOM 问题
  • layui 框架的upload上传文件的data参数传到后端的方法
  • Java虚拟机的垃圾回收机制
  • 时间序列基础->数据标签、数据分割器、数据加载器的定义和讲解(零基础入门时间序列)
  • 【图论】最小生成树(python和cpp)
  • 【亚马逊云科技】使用Amazon Lightsail快速建站
  • 使用字典树实现一个可以自动补全的输入框
  • edge/chrome浏览器favicon.ico缓存问题
  • 长虹智能电视使用123
  • Java基于itextPDF实现pdf动态导出
  • 【Liunx】配置IP地址与MAC地址绑定
  • Mybatis-Plus最新教程
  • 【Shell脚本11】Shell 函数
  • STM32中独立看门狗和窗口看门狗的使用方法
  • 刷题笔记(第七天)
  • python3.7 + pygame1.9.3实现小游戏《外星人入侵》(五):计分
  • [量化投资-学习笔记014]Python+TDengine从零开始搭建量化分析平台-Python知识点汇总
  • [论文分享] Never Mind the Malware, Here’s the Stegomalware
  • 代号:408 —— 1000道精心打磨的计算机考研题