当前位置: 首页 > news >正文

【pytorch15】链式法则

在这里插入图片描述
x到u再到y,可以理解为x是输入,中间层hidden layer 是u,最后y是pred

在这里插入图片描述
对于一个简单的线性层可以展开得到y的表达式,但是对于实际的神经网络还要加上激活函数,此时展开就非常的复杂,不能够一次到位,因此使用链式法则一步步展开,通过链式法则会让求导的过程变得比较简单,而且每一个中间过程可能已经有了中间的结果所以用链式法则会让神经网络的求解变得非常清晰和简洁

在这里插入图片描述
把一个比较复杂不知道如何展开求导的式子,链式法则成3个偏导,对每一步再进行求解再乘积,可以完成对复杂函数偏微分

在这里插入图片描述
发现通过链式法则和直接使用pytorch自动求导功能是完成匹配的

http://www.lryc.cn/news/395663.html

相关文章:

  • C#用链表和数组分别实现堆栈
  • 【AI原理解析】—强化学习(RL)原理
  • java解析请求的字符串参数Content-Disposition: form-data;和拼接的键值对
  • 活动回顾|2024 MongoDB Developer Day圆满收官!
  • MySQL资源组的使用方法
  • python--实验7 函数(1)
  • 【力扣】数组中的第K个最大元素
  • WTM的项目中EFCore如何适配人大金仓数据库
  • 互联网3.0时代的变革者:华贝甄选大模型创新之道
  • Tomcat的安全配置
  • [笔记] 卷积 - 01 变速箱需要放置多少个加速度传感器?
  • Maya崩溃闪退常见原因及解决方案
  • 编码与梦想:我的CSDN创作5周年
  • Vue2 基础十Vuex
  • 【大模型】驾驭未知领域:LLM如何处理域外或无意义的提示
  • Docker容器 为MySQL创建新用户和授权
  • openssh9.8p1更新 修复漏洞(CVE-2024-6387)
  • 超市收银系统源码
  • word 使用手册
  • vue学习day03-指令修饰符、v-bind对于样式控制的增强、v-model应用于其他表单元素
  • JRE、JVM、JDK分别是什么。
  • 台灯护眼是真的吗?台灯怎么选对眼睛好?一文带你读懂!
  • 【学术会议征稿】第五届计算机工程与智能控制学术会议(ICCEIC 2024)
  • 【Golang】slice切片
  • 开源网安模糊测试平台SFuzz全新升级,从标准到实践助力车企安全出海
  • Go bytes包
  • 将List切割为多个指定长度的多个List
  • 【实战】mysql加密函数AES_ENCRYPT无缝迁移到磐维2.0的加密函数MY_ENCRYPT_AES128
  • 使用YOLO训练好自己的模型并持续训练【教程二】
  • STC32G/F/8H通用无刷电机驱动板