当前位置: 首页 > news >正文

nn.RNN解析

以下是RNN的计算公式,t时刻的隐藏状态H(t)等于前一时刻隐藏状态H(t-1)乘以参数矩阵,再加t时刻的输入x(t)乘以参数矩阵,最后再通过激活函数,等到t时刻隐藏状态。
在这里插入图片描述
下图是输出input和初始化的隐藏状态,当参数batch_first = True时候,输入是(batch_size,Sequence_length,input_size),参数batch_first = False的时候,输入是
(Sequence_length,batch_size,input_size)

h_0就是初始时刻的隐藏状态hidden state,一般情况下,输入是(D*num_layers,N,H_out)

  • D:如果是双向RNN则为2,如果是单向RNN则为1
  • num_layers: 是RNN的层数
  • N:Batch_size 大小
  • H_in :input size
  • H_out : hidden_size
    写到这里也就把RNN的传入参数给将明白了,主要就是初始隐藏态和input
    在这里插入图片描述
    输出
  • 输出分别输出最后一个时刻的隐藏态以及所有时刻隐藏态的堆叠,作为输出outputs
  • outputs: 当batch_first = True时,输出为(batch_size,Sequence_length,hidden_size * D);当batch_first = False 的时候,输出为(Sequence_length,Batch_size,hidden_size*D)
  • h_n: 输出为(D*num_layers,Batch_size,hidden_size)
  • 参数 D 同上面一样,这里不在赘述。
    在这里插入图片描述
    示例:
    在这里插入图片描述
    RNN 返回值中 outputs 和 hidden_n的关系
    由下图可知,outputs最后一个时间步的输出就是hidden_n
    在这里插入图片描述
http://www.lryc.cn/news/495593.html

相关文章:

  • How to monitor Spring Boot apps with the AppDynamics Java Agent
  • Linux学习笔记12 systemd的其他命令
  • NGO-CNN-BiGRU-Attention北方苍鹰算法优化卷积双向门控循环单元时间序列预测,含优化前后对比
  • 【分布式】分布式缓存
  • 深度学习中的迁移学习:应用与实践
  • 28.UE5实现对话系统
  • Redis中的分布式锁(步步为营)
  • CentOS 7安装mysql+JDK+Tomcat完成流程
  • C++笔记之不同框架中事件循环的核心函数:io_run()、ros_spin()、app_exec()
  • C++异常处理
  • 【数据结构】哈希 ---万字详解
  • 4399大数据面试题及参考答案(数据分析和数据开发)
  • 快速理解倒排索引在ElasticSearch中的作用
  • C++趣味编程玩转物联网:基于树莓派Pico控制无源蜂鸣器-实现音符与旋律的结合
  • 《RuoYi基于SpringBoot+Vue前后端分离的Java快速开发框架学习》系列博客_Part4_三模态融合
  • springboot365高校疫情防控web系统(论文+源码)_kaic
  • STM32 USART串口数据包
  • 【LC】3232. 判断是否可以赢得数字游戏
  • Linux基础学习--vi与vim
  • JavaScript 高级教程:异步编程、面向对象与性能优化
  • qt QToolBox详解
  • 翁知宜荣获“易学名师”与“国学文化传承人”称号
  • 20241128解决Ubuntu20.04安装libwxgtk3.0-dev异常的问题
  • sql分类
  • stm32里一个定时器可以提供多路信号吗?
  • Java安全—原生反序列化重写方法链条分析触发类
  • 2023考研王道计算机408数据结构+操作系统+计算机组成原理+计算机网络
  • YOLOv8-ultralytics-8.2.103部分代码阅读笔记-files.py
  • 「Mac畅玩鸿蒙与硬件34」UI互动应用篇11 - 颜色选择器
  • ELK(Elasticsearch + logstash + kibana + Filebeat + Kafka + Zookeeper)日志分析系统