LSTM(是一种RNN的变体), 引入了”门控”(gating)机制,允许网络选择性地记忆、遗忘和输出信息。

LSTM 单元的主要组成部分包括:

  1. 输入门(Input gate):决定是否接受当前输入信息。
  2. 遗忘门(Forget gate):决定是否遗忘先前的记忆。
  3. 输出门(Output gate):决定当前记忆状态的输出。
  4. 记忆单元(Cell state):存储网络内部的状态和信息。

独立同分布