PyTorch 神经网络基础

神经网络的主要原理包括一系列基本元素，即人工神经元或感知器。它包括几个基本输入x1，x2… xn，如果它们的和大于激活阈值，就会产生一个二进制输出。

示意图如下所示 –

生成的输出可以被视为带有激活潜力或偏向的加权和。

输出=∑_jw_jx_j+偏向

典型的神经网络结构如下所示−

输入和输出之间的层被称为隐藏层，层与层之间的连接的密度和类型被称为配置。例如，完全连接的配置将层L的所有神经元连接到层L+1的神经元。为了更强调局部性，我们可以将下一层与前一层的九个神经元连接起来。图1-9显示了具有密集连接的两个隐藏层。

神经网络的各种类型如下：

前馈神经网络

前馈神经网络是神经网络家族的基本单位。在这种类型的神经网络中，数据的传输是从输入层到输出层，通过中间的隐藏层。一个层的输出作为下一层的输入，网络结构中没有任何循环。

循环神经网络

循环神经网络是指数据模式在一段时间内连续变化的情况。在RNN中，相同的层被应用于接收输入参数并在指定的神经网络中显示输出参数。

使用torch.nn包可以构建神经网络。

这是一个简单的前馈网络。它将输入通过数个层级依次传递，并最终产生输出。

借助PyTorch，我们可以使用以下步骤来进行典型的神经网络训练过程：

• 定义具有一些可学习参数（或权重）的神经网络。
• 遍历输入数据集。
• 通过网络处理输入。
• 计算损失（输出与正确值的差距有多大）。
• 将梯度反向传播到网络的参数中。
• 更新网络的权重，通常使用以下简单的更新方式：

rule: weight = weight -learning_rate * gradient

PyTorch 教程目录

• PyTorch 简介
• PyTorch 安装
• PyTorch 神经网络的数学基本构建模块
• PyTorch 神经网络基础
• PyTorch 机器学习的通用工作流程
• PyTorch 机器学习 vs. 深度学习
• PyTorch 实现第一个神经网络
• PyTorch 神经网络到功能块
• PyTorch 术语
• PyTorch 加载数据
• PyTorch 线性回归
• PyTorch 卷积神经网络
• PyTorch 循环神经网络
• PyTorch 数据集
• PyTorch 卷积神经网络介绍
• PyTorch 从头训练一个卷积神经网络
• PyTorch 卷积神经网络中的特征提取
• PyTorch 卷积神经网络的可视化
• PyTorch 序列处理与卷积
• PyTorch 词嵌入
• PyTorch 递归神经网络