如何用PyTorch实现递归神经网络

当创建模型时，SPINN.__init__被调用了一次;它分配和初始化参数，但不执行任何神经网络操作或构建任何类型的计算图。在每个新的批处理数据上运行的代码由 SPINN.forward方法定义，它是用户实现的方法中用于定义模型向前过程的标准 PyTorch 名称。上面描述的是堆栈操作算法的一个有效实现，即在一般 Python中，在一批缓冲区和堆栈上运行，每一个例子都对应一个缓冲区和堆栈。我使用转移矩阵(transition)包含的「shift」和「reduce」操作集合进行迭代，运行Tracker(如果存在)，并遍历批处理中的每个样本来应用「shift」操作(如果请求)，或将其添加到需要「reduce」操作的样本列表中。然后在该列表中的所有样本上运行Reduce 层，并将结果推送回到它们各自的堆栈。