https://blog.overfit.org/tags/cnn/Recent content in CNN on 里列昂遗失的记事本Hugozh-cnFri, 15 Aug 2025 16:23:00 +0800https://blog.overfit.org/posts/2025-08-15-19039904-lenetjaxflax%E5%AE%9E%E7%8E%B0/Fri, 15 Aug 2025 16:23:00 +0800https://blog.overfit.org/posts/2025-08-15-19039904-lenetjaxflax%E5%AE%9E%E7%8E%B0/LeNet LeNet，它是最早发布的卷积神经网络之一，因其在计算机视觉任务中的高效性能而受到广泛关注。 这个模型是由AT&amp;T贝尔实验室的研究员Yann LeCun在1989年提出的（并以其命名），目的是识别图像 (LeCun et al., 1998)中的手写数字。 当https://blog.overfit.org/posts/2025-08-15-19039821-lenetpytorch%E5%AE%9E%E7%8E%B0/Fri, 15 Aug 2025 15:59:00 +0800https://blog.overfit.org/posts/2025-08-15-19039821-lenetpytorch%E5%AE%9E%E7%8E%B0/LeNet LeNet，它是最早发布的卷积神经网络之一，因其在计算机视觉任务中的高效性能而受到广泛关注。 这个模型是由AT&amp;T贝尔实验室的研究员Yann LeCun在1989年提出的（并以其命名），目的是识别图像 (LeCun et al., 1998)中的手写数字。 当https://blog.overfit.org/posts/2022-08-30-16638470-resnext/Tue, 30 Aug 2022 10:36:00 +0800https://blog.overfit.org/posts/2022-08-30-16638470-resnext/ResNext 改进点 改进了Block 准确率的提高 在计算量相同的情况下，错误率更低 使用了分组卷积 普通卷积 上图为普通卷积示意图，为方便理解，途中只有一个卷积核，此时输入输出数据集为：输入特征图尺寸：**，分别对应特征图的宽、高和通道数单个卷积核尺寸：https://blog.overfit.org/posts/2022-08-28-16634329-resnet/Sun, 28 Aug 2022 22:41:00 +0800https://blog.overfit.org/posts/2022-08-28-16634329-resnet/ResNet详解 ResNet在2015年由微软实验室提出，斩获当年ImageNet竞赛中分类任务第一名，目标检测第一名。获得COCO数据集中目标检测第一名，图像分割第一名。模型中的亮点： 超深的网络结构 提出Residual模块 使用Batch Normalization加速训https://blog.overfit.org/posts/2022-08-13-16582704-googlenet/Sat, 13 Aug 2022 11:42:00 +0800https://blog.overfit.org/posts/2022-08-13-16582704-googlenet/GoogLeNet 简介 GoogLeNet在2014年由Google团队提出，斩获当年ImageNet竞赛中Classification Task (分类任务) 第一名。 GoogLeNet网络的优点 引入了Inception结构（融合不同尺度的特征信息） 使用的卷积核进行降维https://blog.overfit.org/posts/2022-07-29-16530856-vggnet/Fri, 29 Jul 2022 00:44:00 +0800https://blog.overfit.org/posts/2022-07-29-16530856-vggnet/VGGNet简介 VGG在2014年由牛津大学著名研究组VGG (Visual GeometryGroup) 提出，斩获该年ImageNet竞赛中 Localization Task (定位任务) 第一名 和 Classification Task (分类任务) 第二名。 VGGhttps://blog.overfit.org/posts/2022-07-19-16494490-alexnet%E7%BD%91%E7%BB%9C/Tue, 19 Jul 2022 16:12:00 +0800https://blog.overfit.org/posts/2022-07-19-16494490-alexnet%E7%BD%91%E7%BB%9C/AlexNet简介 AlexNet是2012年ISLVRC 2012（ImageNet Large Scale Visual RecognitionChallenge）竞赛的冠军网络，分类准确率由传统的 70%+提升到 80%+。它是由Hinton和他的学生Alex Krizhehttps://blog.overfit.org/posts/2022-05-18-16286033-%E7%8C%AB%E7%8B%97%E6%95%B0%E6%8D%AE%E9%9B%86%E5%88%86%E7%B1%BBvgg16tensorflow%E5%AE%9E%E7%8E%B0/Wed, 18 May 2022 19:33:00 +0800https://blog.overfit.org/posts/2022-05-18-16286033-%E7%8C%AB%E7%8B%97%E6%95%B0%E6%8D%AE%E9%9B%86%E5%88%86%E7%B1%BBvgg16tensorflow%E5%AE%9E%E7%8E%B0/import random import os import tensorflow as tf from tensorflow import keras from shutil import copyfile from tensorflow.keras import layershttps://blog.overfit.org/posts/2022-05-18-16285858-%E7%8C%AB%E7%8B%97%E6%95%B0%E6%8D%AE%E9%9B%86%E5%88%86%E7%B1%BBvgg16pytorch%E5%AE%9E%E7%8E%B0/Wed, 18 May 2022 18:34:00 +0800https://blog.overfit.org/posts/2022-05-18-16285858-%E7%8C%AB%E7%8B%97%E6%95%B0%E6%8D%AE%E9%9B%86%E5%88%86%E7%B1%BBvgg16pytorch%E5%AE%9E%E7%8E%B0/数据集地址：https://www.kaggle.com/datasets/shaunthesheep/microsoft-catsvsdogs-dataset ```python from shutil import copyfile import random importhttps://blog.overfit.org/posts/2022-01-06-15772360-%E5%8D%B7%E7%A7%AF%E8%87%AA%E5%8A%A8%E7%BC%96%E7%A0%81%E5%99%A8/Thu, 06 Jan 2022 18:32:00 +0800https://blog.overfit.org/posts/2022-01-06-15772360-%E5%8D%B7%E7%A7%AF%E8%87%AA%E5%8A%A8%E7%BC%96%E7%A0%81%E5%99%A8/卷积自动编码器 如果要处理图像，目前为止的自动编码器都无法很好的工作（除非图像非常小），卷积神经网络比密集网络更适合处理图像。如果要为图像构建自动编码器（例如，用于无监督预训练或降维），则需要构建卷积自动编码器。编码器是由卷积层和池化层组成的常规CNN。它通常会减小输入的空间尺寸https://blog.overfit.org/posts/2021-12-06-15650112-%E4%BD%BF%E7%94%A8rnn%E5%92%8Ccnn%E5%A4%84%E7%90%86%E5%BA%8F%E5%88%97/Mon, 06 Dec 2021 15:22:00 +0800https://blog.overfit.org/posts/2021-12-06-15650112-%E4%BD%BF%E7%94%A8rnn%E5%92%8Ccnn%E5%A4%84%E7%90%86%E5%BA%8F%E5%88%97/使用RNN和CNN处理序列 击球手将球击出。外野手立即开始奔跑，预测球的轨迹。他跟踪它，调整自己的运动，最后抓住球。不管你是在听完朋友的话还是在早餐时期待咖啡的味道，预测都是你一直在做的事情。循环神经网络（RNN），这是一类可以预测未来的网络（在一定程度上）。它们可以分析时间序列https://blog.overfit.org/posts/2021-12-06-15650064-%E8%AF%AD%E4%B9%89%E5%88%86%E5%89%B2/Mon, 06 Dec 2021 15:15:00 +0800https://blog.overfit.org/posts/2021-12-06-15650064-%E8%AF%AD%E4%B9%89%E5%88%86%E5%89%B2/语义分割 在语义分割中，每个像素根据其所属物体的类别（例如，道路、汽车、行人、建筑物等）进行分类。例如分割图像右侧的所有自行车都变成了一大块像素。此任务的主要困难在于，当图像通过常规CNN时，它们会逐渐失去其空间分辨率（由于步幅大于1的层），因此常规的CNN可能最终会知道在图像的https://blog.overfit.org/posts/2021-12-06-15649925-yolo/Mon, 06 Dec 2021 14:53:00 +0800https://blog.overfit.org/posts/2021-12-06-15649925-yolo/YOLO YOLO是Joseph Redmon等人在2015年的论文中提出的一种极其快速、准确的物体检测架构随后在2016年（YOLOv2）和2018（YOLOv3）中进行了改进。 YOLOv3的架构和全卷积网络的架构非常相似，但有一些重要的区别： 它为每个网格单元输出5个边界框https://blog.overfit.org/posts/2021-11-27-15611527-%E5%85%A8%E5%8D%B7%E7%A7%AF%E7%BD%91%E7%BB%9C/Sat, 27 Nov 2021 12:24:00 +0800https://blog.overfit.org/posts/2021-11-27-15611527-%E5%85%A8%E5%8D%B7%E7%A7%AF%E7%BD%91%E7%BB%9C/全卷积网络 FCN的概念由Jonathan Long等人在2015年发表的论文中首次提出，用于语义分割（根据图像所属物体的类别对图像中的每个像素点进行分类的任务）。作者指出，可以用卷积层代替CNN顶部的密集层。 假设一个具有200个神经元的密集层位于一个卷积层的顶部，该卷积层输出https://blog.overfit.org/posts/2021-11-26-15607687-%E7%89%A9%E4%BD%93%E6%A3%80%E6%B5%8B/Fri, 26 Nov 2021 14:27:00 +0800https://blog.overfit.org/posts/2021-11-26-15607687-%E7%89%A9%E4%BD%93%E6%A3%80%E6%B5%8B/物体检测 在图像中对多个物体进行分类和定位的任务称为物体检测。一种通用的方法是采用经过训练的CNN来对单个物体进行分类和定位，然后将其在图像上滑动。 这项技术非常简单直观，但是它将多次检测同一物体，但位置略有不同。然后需要进行一些后期处理，以消除所有不必要的边界框。一种常见的方法https://blog.overfit.org/posts/2021-11-26-15607128-%E8%BF%81%E7%A7%BB%E5%AD%A6%E4%B9%A0%E7%9A%84%E9%A2%84%E8%AE%AD%E7%BB%83%E6%A8%A1%E5%9E%8B/Fri, 26 Nov 2021 12:25:00 +0800https://blog.overfit.org/posts/2021-11-26-15607128-%E8%BF%81%E7%A7%BB%E5%AD%A6%E4%B9%A0%E7%9A%84%E9%A2%84%E8%AE%AD%E7%BB%83%E6%A8%A1%E5%9E%8B/<h1 id="迁移学习的预训练模型-如果想构建图像分类器但没有足够的训练数据那么重用预训练模型的较低层通常是个好办法例如训练模型来对花的图片进行分类并使用预先训练的xception模型首先使用tensorflow-datasets加载数据集-python-import">迁移学习的预训练模型 如果想构建图像分类器但没有足够的训练数据，那么重用预训练模型的较低层通常是个好办法。例如，训练模型来对花的图片进行分类，并使用预先训练的Xception模型。首先，使用TensorFlow Datasets加载数据集： ```python import</h1>https://blog.overfit.org/posts/2021-11-26-15606727-%E4%BD%BF%E7%94%A8keras%E7%9A%84%E9%A2%84%E8%AE%AD%E7%BB%83%E6%A8%A1%E5%9E%8B/Fri, 26 Nov 2021 11:08:00 +0800https://blog.overfit.org/posts/2021-11-26-15606727-%E4%BD%BF%E7%94%A8keras%E7%9A%84%E9%A2%84%E8%AE%AD%E7%BB%83%E6%A8%A1%E5%9E%8B/使用Keras的预训练模型 通常，无需手动实现像GoogLeNet或ResNet这样的标准模型，因为在keras.applications包中只需一行代码即可获得预训练的网络。 例如，使用以下代码加载在ImageNet上预训练的ResNet-50模型： from tensorflhttps://blog.overfit.org/posts/2021-11-21-15584228-cnn%E6%9E%B6%E6%9E%84/Sun, 21 Nov 2021 13:31:00 +0800https://blog.overfit.org/posts/2021-11-21-15584228-cnn%E6%9E%B6%E6%9E%84/CNN架构 典型的CNN架构堆叠了一些卷积层（通常每个卷积层都跟随着一个ReLU层），然后是一个池化层，然后是另外几个卷积层（+ReLU），然后是另一个池化层，以此类推。随着卷积网络的不断发展，图像变得越来越小，但是由于卷积层的存在，图像通常也越来越深（即具有更多的特征图）。在堆https://blog.overfit.org/posts/2021-11-19-15579563-%E6%B1%A0%E5%8C%96%E5%B1%82/Fri, 19 Nov 2021 22:21:00 +0800https://blog.overfit.org/posts/2021-11-19-15579563-%E6%B1%A0%E5%8C%96%E5%B1%82/池化层 池化层的目标是对输入图像进行下采样（即缩小），以便减少计算量、内存使用量和参数数量（从而降低过拟合的风险） 池化层中的每个神经元都连接到位于一个小的矩形接受视野中的上一层中有限数量的神经元的输出。必须定义其大小、步幅和填充类型。但是，池化层没有权重。它所做的工作就是使用聚https://blog.overfit.org/posts/2021-11-15-15558256-%E5%8D%B7%E7%A7%AF%E5%B1%82/Mon, 15 Nov 2021 21:08:00 +0800https://blog.overfit.org/posts/2021-11-15-15558256-%E5%8D%B7%E7%A7%AF%E5%B1%82/卷积层 CNN的最重要的构建层就是卷积层：第一卷积层的神经元不会连接到输入图像中的每个像素，而只于接受视野内的像素相连。反过来，第二卷积层的每个神经元仅连接到位于第一层中的一个小矩阵内的神经元。这种架构允许网络集中在第一个隐藏层的低阶特征中，然后在下一个隐藏层中将它们组装成比较高https://blog.overfit.org/posts/2021-11-14-15551126-%E8%A7%86%E8%A7%89%E7%9A%AE%E5%B1%82%E7%9A%84%E6%9E%B6%E6%9E%84/Sun, 14 Nov 2021 11:15:00 +0800https://blog.overfit.org/posts/2021-11-14-15551126-%E8%A7%86%E8%A7%89%E7%9A%AE%E5%B1%82%E7%9A%84%E6%9E%B6%E6%9E%84/视觉皮层的架构 卷积神经网络（CNN）起源于对大脑的视觉皮层的研究，从20世纪80年代起被用于图像识别。在过去几年中，由于计算机计算能力的提高、可训练数据数量的增加，以及用于深度学习网络训练技巧的增加，CNN已经在一些复杂的视觉任务中实现了超人性化，广泛用于图片搜索服务、自动驾驶https://blog.overfit.org/posts/2021-09-11-15255671-%E6%AE%8B%E5%B7%AE%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9Cresidualnet/Sat, 11 Sep 2021 16:54:00 +0800https://blog.overfit.org/posts/2021-09-11-15255671-%E6%AE%8B%E5%B7%AE%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9Cresidualnet/残差神经网络（ResNet） 为什么神经网络的层数越来越深 由图可知随着神经网络层数的增加，神经网络的训练误差和测试误差相较于较低层数的神经网络都要更高。但是这个与越深的网络，训练误差和测试误差都要更小这个第一感觉相违背。 在相同的迭代次数下，更深的神经网络的误差更容易趋向于平稳https://blog.overfit.org/posts/2021-09-09-15248896-%E5%8D%B7%E7%A7%AF%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C%E9%AB%98%E7%BA%A7%E7%AF%87/Thu, 09 Sep 2021 21:36:00 +0800https://blog.overfit.org/posts/2021-09-09-15248896-%E5%8D%B7%E7%A7%AF%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C%E9%AB%98%E7%BA%A7%E7%AF%87/构建高级卷积神经网络 以Google Net为例 GoogleNet的模型图为 可以看到其中有一个模块反复使用 Inception Module Inception Module 模型的具体结构图为 个人理解这个模块是将数据经过不同的卷积方式并保持图像大小不变得到不同的通来获得更