开发者

人工智能学习pyTorch的ResNet残差模块示例详解

开发者 https://www.devze.com 2022-12-04 13:37 出处:网络 作者: 网络整理
目录1.定义ResNet残差模块①各层的定义②前向传播2.ResNet18的实现①各层的定义②前向传播3.测试ResNet18
目录
  • 1.定义ResNet残差模块
    • ①各层的定义
    • ②前向传播
  • 2.ResNet18的实现
    • ①各层的定义
    • ②前向传播
  • 3.测试ResNet18

    人工智能学习pyTorch的ResNet残差模块示例详解

    1.定义ResNet残差模块

    一个block中,有两个卷积层,之后的输出还要和输入进行相加。因此一个block的前向流程如下:

    输入x编程客栈→卷积层→数据标准化→ReLU→卷积层→数据标准化→数据和x相加→ReLU→输出out

    中间加上了数据的标准化(通www.cppcns.com过nn.BatchNorm2d实现),可以使得效果更好一些。

    ①各层的定义

    人工智能学习pyTorch的ResNet残差模块示例详解

    ②前向传dRNDNl

    在前向传播中输入x,过程中根据前向流程,调用上面定义的层即可。

    人工智能学习pyTorch的ResNet残差模块示例详解

    如此,便定义好了一个残差的模块。

    2.ResNet18的实现

    此处的ResNet18并没有涉及到太多细节,只是一个大致的内容。

    在初始化的时候,定义好所需要使用的模块,根据上面定义好的残差模块,调用即可。在这里使用了4次残差模块,将通道数从输入的3(也就是RGB),变成了512通http://www.cppcns.com道。也就是最终提取的高级特征。提取完特征,直接输入给Linear方法,得到图片在10种图片类型上的结果,用于预测以及损失值的求解。

    ①各层的定义

    人工智能学习pyTorch的ResNet残差模块示例详解

    ②前向传播

    同样的,调用上面定义好的层,根据流程传播即可。

    人工智能学习pyTorch的ResNet残差模块示例详解

    3.测试ResNet18

    如下图,输入的是2张图,RGB,长宽均是32的数据。

    通过ResNet18之后,输出的是2张图,每张图对应10种类型的不同取值logits。

    过程中的通道数目的http://www.cppcns.com转换如下面的结果所示:3→64→128→256→512→512

    过程中的尺寸转换,根据设置的卷积核,以及步长,会有不同的结果。但总体都是为了得到更高级的特征,最终输入全连层,得到Logits。

    人工智能学习pyTorch的ResNet残差模块示例详解

    人工智能学习pyTorch的ResNet残差模块示例详解

    以上就是人工智能学习pyTorch的ResNet残差模块示例详解的详细内容,更多关于PyTorch人工智能学习ResNet残差模块的资料请关注我们其它相关文章!

    0

    精彩评论

    暂无评论...
    验证码 换一张
    取 消

    关注公众号