【nlp】2.2 传统RNN模型

news/2024/7/7 19:16:21

传统RNN模型

  • 1 传统RNN模型
    • 1.1 RNN结构分析
    • 1.2 使用Pytorch构建RNN模型
    • 1.3 传统RNN优缺点

1 传统RNN模型

1.1 RNN结构分析

结构解释图:
在这里插入图片描述

内部结构分析:
在这里插入图片描述

我们把目光集中在中间的方块部分, 它的输入有两部分, 分别是h(t-1)以及x(t), 代表上一时间步的隐层输出, 以及此时间步的输入, 它们进入RNN结构体后, 会"融合"到一起, 这种融合我们根据结构解释可知, 是将二者进行拼接, 形成新的张量[x(t), h(t-1)], 之后这个新的张量将通过一个全连接层(线性层), 该层使用tanh作为激活函数, 最终得到该时间步的输出h(t), 它将作为下一个时间步的输入和x(t+1)一起进入结构体. 以此类推.
内部结构过程演示:
在这里插入图片描述

根据结构分析得出内部计算公式:


http://lihuaxi.xjx100.cn/news/1790851.html

相关文章

大数据知识图谱项目——基于知识图谱的电影问答系统（超详细讲解及源码）

大数据知识图谱项目——基于知识图谱的电影问答系统（超详细讲解及源码）

大数据知识图谱项目——基于知识图谱的电影问答系统（超详细讲解及源码） 一、项目概述 知识图谱是将知识连接起来形成的一个网络。由节点和边组成，节点是实体，边是两个实体的关系，节点和边都可以有属性。知识图谱除了…
阅读更多...
深入理解JVM虚拟机第二十五篇：详解JVM方法的绑定机制静态绑定和动态绑定，早期绑定晚期绑定，并编写代码从字节码角度证明这件事情

深入理解JVM虚拟机第二十五篇：详解JVM方法的绑定机制静态绑定和动态绑定，早期绑定晚期绑定，并编写代码从字节码角度证明这件事情

大神链接：作者有幸结识技术大神孙哥为好友，获益匪浅。现在把孙哥视频分享给大家。 孙哥链接：孙哥个人主页 作者简介：一个颜值99分，只比孙哥差一点的程序员 本专栏简介：话不多说，让我们一起干翻J…
阅读更多...
线程相关问题

线程相关问题

多线程 计算机在同一时间可以执行多个线程 并行 多个事情在同一时间点内发生，并行的发生是不会抢占资源的 并发 多个事情在一段时间内同时发生，并发的产生会抢占资源 多线程的好处 如果为单线程计算机一次只能处理一个线程，那么当处理的线程需…
阅读更多...
竞赛选题 深度学习的水果识别 opencv python

竞赛选题 深度学习的水果识别 opencv python

文章目录 0 前言2 开发简介3 识别原理3.1 传统图像识别原理3.2 深度学习水果识别 4 数据集5 部分关键代码5.1 处理训练集的数据结构5.2 模型网络结构5.3 训练模型 6 识别效果7 最后 0 前言 🔥 优质竞赛项目系列，今天要分享的是 🚩 深度学习…
阅读更多...
CCNA课程实验-14-Final_Lab

CCNA课程实验-14-Final_Lab

目录 实验条件网络拓朴需求 配置实现1. 配置PC1~3, DHCP_Server的vlan2. VLAN10、20的网关为MSW1对应的SVI，VLAN30、40的网关为MSW2对应的SVI；3. 配置5台交换机之间线路均为Trunk4. 配置5台交换机均启用Rapid-PVST(RSTP)5. 配置DHCP Server，创…
阅读更多...
Android Studio的笔记--随机数

Android Studio的笔记--随机数

android java获取随机数 String String 获取 x 位 由0到9组成的随机字符串。 调用方法 Log.i("lxh", "获取由数字0到9组成的随机字符串：" getStr(12));函数 public String RandomStr(int length) {String characters "0123456789"…
阅读更多...
java springboot2.7 JSR303与Hibernate进行Bean的数据校验

java springboot2.7 JSR303与Hibernate进行Bean的数据校验

我们如果对数据能进行格式校验 做个安全检查就会容易很多 其实 各个系统中都必然后拥有数据校验&#xff0c;这也不是新东西 J2EE规范中JSR303就规范定义了一组有关数据校验的API 首先 我们在 pom.xml 中 注入依赖 <dependency><groupId>javax.validation</gr…
阅读更多...
数学公式输入测试

数学公式输入测试

l i m x → 0 x 2 − x − 6 x 2 − 2 x − 3 _ . lim_{x\rightarrow0}\frac{x^{2}-x-6}{x^{2}-2x-3}\_. limx→0​x2−2x−3x2−x−6​_. 解答&#xff1a; 首先&#xff0c;将分子和分母分别化为因式&#xff1a; 分子&#xff1a; x 2 − x − 6 ( x 2 ) ( x − 3 ) 分…
阅读更多...
最新文章

Copyright @ 2022~2023