30款热门AI模型一站整合DeepSeek/GLM/Qwen 随心用限时 5 折。 点击领海量免费额度1. 先搞清楚这五种网络到底能帮你解决什么问题如果你刚接触深度学习看到 CNN、RNN、GAN、Transformer、GNN 这些名字第一反应可能是“这么多我该学哪个”。这篇文章不打算用十分钟讲完所有原理那既不现实也不负责。我更想帮你做一件事快速定位每种网络最擅长解决的核心问题让你知道在什么场景下该优先考虑哪种方案以及如何用最少的代码跑通一个能验证想法的例子。这五种网络不是并列关系而是针对不同数据结构和任务目标的专用工具。你可以这样理解CNN卷积神经网络你的“图像专家”。它最擅长处理像图片、视频这种具有空间局部相关性的网格数据。核心能力是自动提取图像中的边缘、纹理、形状等特征。如果你要做图像分类、目标检测、人脸识别CNN 是绕不开的起点。RNN循环神经网络你的“序列记忆者”。它专为处理时间序列、文本、语音这类前后有关联的数据而生。核心是引入了“记忆”机制能考虑上文信息来预测下文。做机器翻译、股票预测、情感分析时RNN 及其变体如 LSTM、GRU是经典选择。GAN生成对抗网络你的“造假大师”。它由生成器和判别器两个网络“对抗”训练目标是生成以假乱新的数据。核心不是分类或预测而是“创造”。你想让 AI 画图、换脸、生成不存在的人像、进行数据增强就得研究 GAN。Transformer你的“上下文理解王”。它彻底改变了自然语言处理领域核心是“自注意力机制”能同时关注输入序列的所有部分并计算其关联权重。这让它特别擅长处理长文本理解复杂的上下文关系。BERT、GPT 等大模型都基于 Transformer。GNN图神经网络你的“关系挖掘器”。当你的数据不是整齐的表格或序列而是像社交网络、分子结构、推荐系统那样实体之间通过边连接时GNN 就派上用场了。它专门处理图结构数据学习节点和边的表示。所以别被标题里的“一口气吃透”吓到。我们的策略是先分清楚它们各自的主战场然后针对你最关心的那个动手跑一个最小化的、可验证的代码建立最直接的感性认识。理论可以后续慢慢补但“这个东西在我的电脑上跑起来并解决了某个小问题”的体验是学习任何技术最有效的第一步。2. 动手之前确认你的环境和数据准备在写任何代码之前环境和数据是两道必须跨过去的坎。我见过太多人卡在包版本冲突或数据格式错误上这非常打击积极性。下面是我通常会做的准备工作你可以照着这个清单来。2.1 基础环境搭建Python 与 PyTorch/TensorFlow对于这五种网络Python 是绝对的主流语言。深度学习框架方面PyTorch因其动态图设计和更 Pythonic 的接口在研究和教学领域更受欢迎TensorFlow/Keras则在工业部署和生产环境中有其优势。对于初学者和快速验证想法我强烈建议从 PyTorch 开始它的调试更直观。安装步骤以 PyTorch 为例安装 Python确保你安装了 Python 3.8 或以上版本。推荐使用 Anaconda 或 Miniconda 来管理环境避免污染系统环境。创建独立环境在命令行中执行conda create -n dl_demo python3.9然后激活它conda activate dl_demo。安装 PyTorch前往 PyTorch 官网 根据你的操作系统、包管理器和是否有 CUDAGPU 加速支持选择对应的安装命令。例如对于只有 CPU 的机器pip install torch torchvision torchaudio如果你有 NVIDIA GPU 并已安装 CUDA可以选择带 CUDA 版本的命令以获得加速。验证安装是否成功import torch print(torch.__version__) # 应输出版本号如 2.0.0 print(torch.cuda.is_available()) # 如果为 True说明 GPU 可用2.2 为不同网络准备“最小化”数据集直接用 ImageNet 或 Wikipedia 全文来学习是大炮打蚊子。我们应该用学术界公认的、轻量级的基准数据集来快速验证。CNN图像MNIST或Fashion-MNIST。这是 28x28 像素的手写数字或衣物灰度图数据集体积小加载快。PyTorch 的torchvision.datasets模块内置了它几行代码就能下载。RNN序列IMDb 电影评论数据集用于情感分析或一个简单的正弦波时间序列。对于入门我甚至建议自己用sin函数生成一个序列让网络学习预测下一个点。GAN生成同样是MNIST/Fashion-MNIST。我们的第一个目标不是生成高清人脸而是让生成器能输出看起来像手写数字的 28x28 图片。Transformer文本WikiText-2或Penn Treebank的小型语料库。但对于第一个 Transformer 模型我建议从构建一个简单的“序列复制”任务开始例如让模型学习输出与输入相同的序列这能帮你理解其基本工作流程。GNN图Cora或Citeseer引文网络数据集。这是节点分类任务的经典数据集图规模适中非常适合入门。你可以使用torch_geometric库PyTorch Geometric来方便地加载和处理。关键建议不要一上来就处理自己的复杂数据。先用这些标准数据集跑通流程理解数据是如何被加载、预处理并送入网络的。这能帮你隔离问题如果模型在标准数据集上都不工作那问题很可能在代码如果工作再迁移到你自己的数据上。2.3 核心依赖库清单除了深度学习框架你还需要一些帮手pip install numpy pandas matplotlib scikit-learn jupyter # 对于 GNN额外安装 PyTorch Geometric (PyG) # 请根据 PyTorch 和 CUDA 版本参照 PyG 官网指令安装matplotlib用于画图看损失曲线、生成图片jupyter提供一个交互式环境方便分步执行和调试。3. 从 CNN 开始建立图像处理的直觉CNN 是视觉任务的基石。我们用一个在 MNIST 上识别手写数字的极简例子来感受卷积、池化、全连接层是如何协作的。3.1 极简 CNN 模型结构解析下面是一个典型的浅层 CNN 结构适用于 MNISTimport torch.nn as nn import torch.nn.functional as F class SimpleCNN(nn.Module): def __init__(self): super(SimpleCNN, self).__init__() # 卷积层1: 输入通道1(灰度图)输出通道32卷积核3x3 self.conv1 nn.Conv2d(1, 32, kernel_size3, padding1) # 卷积层2: 输入32通道输出64通道卷积核3x3 self.conv2 nn.Conv2d(32, 64, kernel_size3, padding1) # 最大池化层: 窗口2x2 self.pool nn.MaxPool2d(2, 2) # 全连接层1: 展平后的特征输入输出128维 # 经过两次池化28x28 - 14x14 - 7x7 通道为64所以是 7*7*64 self.fc1 nn.Linear(7 * 7 * 64, 128) # 全连接层2输出层: 输出10维对应0-9十个数字 self.fc2 nn.Linear(128, 10) def forward(self, x): # 第一次卷积 - 激活 - 池化 x self.pool(F.relu(self.conv1(x))) # 输出: [batch, 32, 14, 14] # 第二次卷积 - 激活 - 池化 x self.pool(F.relu(self.conv2(x))) # 输出: [batch, 64, 7, 7] # 展平特征图准备输入全连接层 x x.view(-1, 7 * 7 * 64) # 全连接层1 - 激活 x F.relu(self.fc1(x)) # 输出层不需要在forward里做softmax损失函数会包含 x self.fc2(x) return x为什么这么设计卷积层 (nn.Conv2d)像一个小窗口在图像上滑动学习局部特征如边缘。padding1是为了保持特征图空间尺寸高宽不变。ReLU 激活函数 (F.relu)引入非线性让网络能拟合复杂函数。没有它多层网络就退化成单层了。池化层 (nn.MaxPool2d)进行下采样用窗口内最大值代表该区域。这有两个好处1. 减少后续计算量2. 增加特征的空间不变性即使数字在图像中轻微移动也能被识别。全连接层 (nn.Linear)将学习到的所有高级特征组合起来做出最终决策这是哪个数字。3.2 训练循环与关键参数定义好模型后我们需要用数据“训练”它。核心是损失函数和优化器。import torch.optim as optim from torchvision import datasets, transforms # 1. 数据加载与预处理 transform transforms.Compose([ transforms.ToTensor(), # 将PIL图像或numpy数组转为Tensor并归一化到[0,1] transforms.Normalize((0.1307,), (0.3081,)) # MNIST的均值和标准差 ]) train_dataset datasets.MNIST(./data, trainTrue, downloadTrue, transformtransform) train_loader torch.utils.data.DataLoader(train_dataset, batch_size64, shuffleTrue) # 2. 初始化模型、损失函数、优化器 device torch.device(cuda if torch.cuda.is_available() else cpu) model SimpleCNN().to(device) criterion nn.CrossEntropyLoss() # 多分类任务常用交叉熵损失 optimizer optim.Adam(model.parameters(), lr0.001) # Adam是自适应学习率优化器比SGD更常用 # 3. 训练循环 num_epochs 5 for epoch in range(num_epochs): running_loss 0.0 for i, (images, labels) in enumerate(train_loader): images, labels images.to(device), labels.to(device) # 前向传播 outputs model(images) loss criterion(outputs, labels) # 反向传播与优化 optimizer.zero_grad() # 清空上一轮的梯度 loss.backward() # 计算梯度 optimizer.step() # 更新参数 running_loss loss.item() if i % 100 99: # 每100个batch打印一次 print(fEpoch [{epoch1}/{num_epochs}], Step [{i1}], Loss: {running_loss/100:.4f}) running_loss 0.0 print(训练完成)关键参数解释batch_size一次输入模型的样本数量。太小如1训练不稳定且慢太大如全部数据可能内存不足。64或128是常见起点。lr(学习率)控制参数更新的步长。太大可能导致损失震荡甚至发散太小则训练过慢。0.001或0.0001是Adam优化器的安全起点。num_epochs整个数据集被遍历的次数。对于MNIST5-10个epoch通常就能达到很高精度。跑完这个流程你的模型在测试集上的准确率应该能轻松超过98%。这个成功案例会给你一个正反馈CNN 确实能通过卷积自动学会识别图像特征。4. 理解 RNN 与 Transformer处理序列数据的两种思维图像是空间结构文本、语音、股价是时间序列结构。处理序列你有两条主要路径基于循环的 RNN 和基于注意力机制的 Transformer。4.1 RNN按时间步的“记忆”与它的困境RNN 的核心思想是有一个“隐藏状态”像记忆一样随着时间步传递。import torch.nn as nn class SimpleRNN(nn.Module): def __init__(self, input_size, hidden_size, output_size): super(SimpleRNN, self).__init__() self.hidden_size hidden_size # RNN层: input_size是输入特征维度hidden_size是隐藏状态维度 self.rnn nn.RNN(input_size, hidden_size, batch_firstTrue) # 全连接输出层 self.fc nn.Linear(hidden_size, output_size) def forward(self, x): # x shape: (batch_size, sequence_length, input_size) out, _ self.rnn(x) # out shape: (batch_size, sequence_length, hidden_size) # 我们取最后一个时间步的输出做预测对于分类或回归任务 out self.fc(out[:, -1, :]) return out它的工作方式在处理序列的第 t 个元素时RNN 会结合当前输入x_t和上一个时间步的隐藏状态h_{t-1}计算出新的隐藏状态h_t和输出y_t。h_t被传递到下一个时间步从而保留了历史信息。RNN 的致命伤长程依赖问题。当序列很长时比如一段长文章早期的信息在传递过程中会逐渐衰减或爆炸梯度消失/爆炸导致模型“记不住”太远的内容。虽然 LSTM 和 GRU 通过引入门控机制部分缓解了这个问题但根本性的顺序计算结构限制了其并行能力。4.2 Transformer抛弃循环拥抱“注意力”Transformer 的革命性在于它完全摒弃了循环采用自注意力机制来同时处理整个序列并实现了高效的并行计算。自注意力机制在做什么想象你在读一句话“The animal didnt cross the street because it was too tired.” 这里的it指代谁animal还是street人类会瞬间关注到animal。自注意力机制让模型中的每个词如it去“看”句子中的所有其他词并计算一个注意力分数决定在理解it时应该多大程度上关注animal、tired等其他词。这个分数是通过学习得到的。一个极简的 Transformer 编码器层概念代码import torch.nn as nn import torch.nn.functional as F class TransformerEncoderLayerSimplified(nn.Module): def __init__(self, d_model, nhead, dim_feedforward2048): super().__init__() # 自注意力层 self.self_attn nn.MultiheadAttention(d_model, nhead) # 前馈神经网络 self.linear1 nn.Linear(d_model, dim_feedforward) self.linear2 nn.Linear(dim_feedforward, d_model) # 层归一化 self.norm1 nn.LayerNorm(d_model) self.norm2 nn.LayerNorm(d_model) def forward(self, src): # src shape: (sequence_length, batch_size, d_model) # 1. 自注意力残差连接和归一化已简化 attn_output, _ self.self_attn(src, src, src) src src attn_output src self.norm1(src) # 2. 前馈网络残差连接和归一化已简化 ff_output self.linear2(F.relu(self.linear1(src))) src src ff_output src self.norm2(src) return src为什么 Transformer 更强并行化自注意力计算可以同时进行训练速度远快于必须顺序计算的 RNN。长程依赖任意两个词的距离在计算注意力时都是“1”彻底解决了长序列信息衰减问题。可解释性注意力权重可以可视化让我们看到模型在做决策时关注了哪些部分。实践选择建议对于短序列任务如句子分类RNN/LSTM 仍然简单有效。对于长序列或需要强大上下文建模的任务如机器翻译、文本生成、BERT/GPT预训练Transformer 是绝对的主流和首选。你现在听到的所有“大模型”核心都是 Transformer。5. 窥探 GAN 与 GNN生成与图结构的独特世界CNN/RNN/Transformer 主要做“判别”或“理解”任务分类、翻译等。GAN 和 GNN 则打开了另外两扇门。5.1 GAN让两个网络“左右互搏”的生成艺术GAN 包含一个生成器 (Generator)和一个判别器 (Discriminator)。生成器 G输入一个随机噪声向量目标是输出一张逼真的图片如手写数字。判别器 D输入一张图片输出一个概率值0到1判断这张图片是来自真实数据集还是生成器。训练过程是一场博弈固定 G训练 D让 D 尽可能区分真实图片和 G 生成的假图片。固定 D训练 G让 G 生成的图片尽可能“骗过”D使得 D 给假图片打高分。这个过程反复进行直到 G 生成的图片足以乱真D 则无法有效区分输出概率接近0.5。下面是一个用于生成 MNIST 数字的极简 GAN 框架# 生成器将噪声映射为图像 class Generator(nn.Module): def __init__(self, noise_dim, img_size): super().__init__() self.model nn.Sequential( nn.Linear(noise_dim, 128), nn.ReLU(), nn.Linear(128, 256), nn.ReLU(), nn.Linear(256, 512), nn.ReLU(), nn.Linear(512, img_size * img_size), # 输出展平的图像 nn.Tanh() # 将输出值压缩到[-1, 1]与预处理后的图像数据范围匹配 ) self.img_size img_size def forward(self, z): img self.model(z) return img.view(-1, 1, self.img_size, self.img_size) # 判别器判断图像真伪 class Discriminator(nn.Module): def __init__(self, img_size): super().__init__() self.model nn.Sequential( nn.Linear(img_size * img_size, 512), nn.LeakyReLU(0.2), nn.Linear(512, 256), nn.LeakyReLU(0.2), nn.Linear(256, 128), nn.LeakyReLU(0.2), nn.Linear(128, 1), nn.Sigmoid() # 输出一个0到1的概率值 ) def forward(self, img): img_flat img.view(img.size(0), -1) validity self.model(img_flat) return validityGAN 训练的关键技巧与挑战损失函数使用二元交叉熵损失。判别器最大化对真实图和假图的判别能力生成器最小化判别器识破假图的能力或者说最大化判别器对假图的误判。训练不稳定GAN notoriously difficult to train notoriously 难以训练。两者需要保持平衡任何一方过强都会导致训练失败。常见问题包括模式崩溃生成器只生成少数几种样本、梯度消失等。实用建议先从最简单的 MNIST 开始使用成熟的架构如 DCGAN并仔细调整学习率通常判别器和生成器使用不同的学习率。不要期望第一次训练就能得到完美结果。5.2 GNN当数据是“关系网”时该怎么办传统神经网络处理的是独立同分布的数据点。但很多数据本质是图社交网络用户是节点关注是边、分子结构原子是节点化学键是边、知识图谱。GNN 的核心思想是通过邻居的信息来更新节点的表示。一个最简单的 GNN 层图卷积网络 GCN 的思想可以表示为H’ σ(Â H W)其中H是当前所有节点的特征矩阵。Â是经过归一化的图邻接矩阵包含了节点连接关系。W是可学习的权重矩阵。σ是激活函数。H’是更新后的节点特征矩阵。这个过程就像一次“信息传播”每个节点收集其直接邻居的特征经过变换乘以权重 W 和激活后形成自己新的特征。堆叠多层 GNN节点就能接收到多跳邻居的信息。使用 PyTorch Geometric (PyG) 实现一个简单的 GCNimport torch import torch.nn.functional as F from torch_geometric.nn import GCNConv from torch_geometric.datasets import Planetoid class SimpleGCN(torch.nn.Module): def __init__(self, num_node_features, num_classes): super().__init__() self.conv1 GCNConv(num_node_features, 16) # 第一层GCN输出16维特征 self.conv2 GCNConv(16, num_classes) # 第二层GCN直接输出类别数 def forward(self, data): x, edge_index data.x, data.edge_index x self.conv1(x, edge_index) x F.relu(x) x F.dropout(x, trainingself.training) # Dropout防止过拟合 x self.conv2(x, edge_index) return F.log_softmax(x, dim1) # 输出对数概率 # 加载Cora数据集 dataset Planetoid(root/tmp/Cora, nameCora) data dataset[0] # Cora图只有一个 model SimpleGCN(dataset.num_node_features, dataset.num_classes) optimizer torch.optim.Adam(model.parameters(), lr0.01, weight_decay5e-4) # 训练循环仅使用有标签的节点Cora数据集已划分好 model.train() for epoch in range(200): optimizer.zero_grad() out model(data) loss F.nll_loss(out[data.train_mask], data.y[data.train_mask]) # 只在训练集上计算损失 loss.backward() optimizer.step()GNN 的应用场景节点分类预测社交网络中用户的类别如兴趣群体。链接预测预测未来可能形成的连接如推荐好友。图分类判断整个图的性质如分子是否有毒。聚类发现图中的社区结构。6. 实战避坑与核心经验总结看完五种网络的简介和代码片段你可能觉得“懂了”但一上手就会遇到各种问题。下面是我从无数次踩坑中总结出的核心经验能帮你节省大量调试时间。6.1 模型不学习先检查数据与损失这是新手最常见的问题代码能跑但损失不降准确率不变。检查数据加载打印几个 batch 的数据和标签看看形状对不对值是否合理比如图片像素值是否在0-1或-1到1之间。标签是不是从0开始的整数。检查损失函数分类任务用CrossEntropyLoss回归任务用MSELoss或L1Loss别用错。确保损失函数的输出是一个标量并且在反向传播。检查优化器optimizer.step()被调用了吗学习率是不是太小如1e-6或太大如10对于新任务可以从lr0.001(Adam) 或lr0.01(SGD) 开始尝试。检查模型输出在训练前用一组随机数据前向传播一次看看输出形状是否符合预期。对于分类输出维度应该等于类别数。过拟合一个小数据集这是一个非常有效的调试技巧。用 10-100 个样本组成一个极小的训练集让你的模型去拟合。如果模型有能力它应该能很快将训练损失降到接近0。如果连这小数据集都学不会那肯定是模型结构、损失函数或优化过程有根本性错误。6.2 过拟合与欠拟合识别与应对欠拟合模型在训练集和验证集上表现都很差。可能原因模型太简单层数太少、神经元太少、特征不够、训练时间不足。对策增加模型复杂度、增加更多特征、延长训练时间。过拟合模型在训练集上表现很好但在验证集上表现很差。可能原因模型太复杂、训练数据太少、噪声太多。对策正则化为损失函数添加 L1/L2 权重惩罚项。Dropout在训练时随机“关闭”一部分神经元防止它们协同过拟合。CNN/全连接层常用。数据增强对训练数据进行随机变换如翻转、旋转、裁剪、加噪声人工增加数据多样性。CNN 中非常有效。早停监控验证集性能当性能不再提升时停止训练。简化模型减少层数或神经元数量。6.3 资源不够模型太大跑不动怎么办尤其是 Transformer 和大型 CNN对显存要求很高。减小batch_size这是最直接有效的方法。但注意batch_size 太小可能影响训练稳定性。使用梯度累积如果理想的 batch_size 是 64但显存只够 16你可以以 batch_size16 迭代 4 次累积梯度后再更新一次参数这等效于 batch_size64。accumulation_steps 4 optimizer.zero_grad() for i, (data, label) in enumerate(train_loader): loss model(data, label) / accumulation_steps # 损失按累积步数平均 loss.backward() # 梯度累积不清零 if (i1) % accumulation_steps 0: optimizer.step() # 累积够步数后更新参数 optimizer.zero_grad() # 清零梯度准备下一轮累积混合精度训练使用torch.cuda.amp模块让部分计算使用float16半精度节省显存并加速计算。检查输入尺寸图片分辨率、序列长度是显存杀手。在实验阶段可以先将图片缩放到更小的尺寸或截断过长的文本序列。使用更小的模型比如用ResNet18代替ResNet50用DistilBERT代替BERT。6.4 如何为你的任务选择网络这是终极问题。你可以遵循以下决策流我的数据是什么结构网格状图像、频谱图- 首选CNN。序列文本、时间序列、音频- 考虑RNN/LSTM短序列、简单任务或Transformer长序列、复杂上下文。关系网络社交网络、分子、知识图谱- 首选GNN。我想生成类似训练数据的新数据- 考虑GAN或其他生成模型如 VAE, Diffusion。我的任务是什么类型分类/检测这是什么在哪里- CNN (图像), RNN/Transformer (文本)。生成创作新内容- GAN, Transformer (如 GPT)。预测下一个值是什么- RNN, Transformer。表示学习学习节点/图的特征- GNN。最后也是最实在的建议不要试图一次性精通所有网络。选定一个与你当前项目最相关的网络找到它的一个经典实现例如 PyTorch 官方教程、GitHub 上高星的项目彻底复现它。从数据准备、模型定义、训练循环到评估完整地走一遍。在这个过程中你会遇到 90% 的典型问题。解决掉它们你对这个网络的理解和实战能力会远远超过泛泛地阅读十篇概述文章。神经网络的学习是一个迭代和实践的过程。把这五个网络看作你工具箱里的五把不同的螺丝刀先熟练使用最常用的那一两把其他的等需要时再拿起来研究你会从容得多。 30款热门AI模型一站整合DeepSeek/GLM/Qwen 随心用限时 5 折。 点击领海量免费额度