循环神经网络基础

一、序列数据1.概念前后数据具有关联性二、语言模型1.概念2.语言模型计算序列概率公式三、循环神经网络1.隐藏状态2.文本生成例子3.RNN通过时间反向传播四、门控循环单元1.引入门的循环网络2.候选隐藏状态3.隐藏状态4.GRU--引入门控机制的循环网络五、长短期记忆网络1.候选记忆细胞2.记忆细胞与隐藏状态