马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。
您需要 登录 才可以下载或查看,没有账号?立即注册
×
第一步:SUNet先容
SUNet(Spatial U-Net)是一种基于U-Net架构改进的深度学习网络,重要用于图像分割(本文把它用在了图像修复使命上)使命,尤其在医学影像、遥感图像等必要高精度空间信息生存的范畴表现突出。它通过联合空间留意力机制和U-Net的编码器-解码器布局,加强了模子对图像中重要地域的定位本领,同时保持了原始U-Net的多标准特性融合上风。
核心特点
- 空间留意力机制(Spatial Attention)
- 在U-Net的跳跃连接(Skip Connection)中引入空间留意力模块,动态调解差别空间位置的特性权重,使网络更关注目的地域(如病灶、边沿等),克制无关配景。
- 典范实现方式:通过卷积层天生留意力图(Attention Map),与原始特性图逐点相乘,突出关键地域。
- 多标准特性融合
- 生存U-Net的经典编码器-解码器布局,通过下采样(编码器)捕捉全局上下文,上采样(解码器)规复空间细节,联合跳跃连接通报局部信息。
- 改进的跳跃连接
- 传统U-Net的跳跃连接直接拼接编码器息争码器特性,大概引入冗余信息。SUNet通过空间留意力筛选重要特性,提升分割精度。
- 轻量化设计(可选)
- 部分变体接纳深度可分离卷积(Depthwise Separable Convolution)减少参数目,适合移动端或及时应用。
第二步:SUNet网络布局
SUnet遵照Unet的编码器-解码器布局,并接纳跳跃连接来转达低级语义信息。 通道号表示为 、、和 ,界说为 = 64、= 128、= 320、= 512。ESRA Transformer块用作 SUnet 中的特性提取模块,本文将两个通道堆叠在一起每级都有 ESRA Transformer块。 ESRA Transformer块的表示图如图1(b)所示。 ESRA Transformer块内的 Mix-FFN 模块如图1(c)所示,它与传统的前馈网络(FFN)差别,它在两个线性层之间使用深度卷积。 在 SUnet 模子中,重叠补丁嵌入使用内核巨细为 7 × 7 且步幅为 3 的卷积层进行补丁嵌入。 重叠补丁归并接纳内核巨细为 3 × 3 的卷积层。嵌入补丁的重叠属性有助于减轻传统补丁嵌入造成的信息丢失。 图1(d)展示了EFF的架构,重要由三个子模块构成:EAG、ECA和SA。 本文使用组数为 32 的分组卷积和残差连接来改进原始 AG。 EAG模块通过上采样得到的高级语义特性来加强通过跳跃连接传输的低级语义特性。 EAG的布局如图1(e)所示。 连接后,ECA和SA重要用于突出特性图中使命相关地域的重要通道和空间位置,以进步特性表达本领。 应该留意的是,底部ECA和SA模块仅包含单个输入特性,因此本文仅使用ECA和SA来夸大特性。
第三步:模子代码展示
- import torch.nn as nn
- from model.SUNet_detail import SUNet
- class SUNet_model(nn.Module):
- def __init__(self, config):
- super(SUNet_model, self).__init__()
- self.config = config
- self.swin_unet = SUNet(img_size=config['SWINUNET']['IMG_SIZE'],
- patch_size=config['SWINUNET']['PATCH_SIZE'],
- in_chans=3,
- out_chans=3,
- embed_dim=config['SWINUNET']['EMB_DIM'],
- depths=config['SWINUNET']['DEPTH_EN'],
- num_heads=config['SWINUNET']['HEAD_NUM'],
- window_size=config['SWINUNET']['WIN_SIZE'],
- mlp_ratio=config['SWINUNET']['MLP_RATIO'],
- qkv_bias=config['SWINUNET']['QKV_BIAS'],
- qk_scale=config['SWINUNET']['QK_SCALE'],
- drop_rate=config['SWINUNET']['DROP_RATE'],
- drop_path_rate=config['SWINUNET']['DROP_PATH_RATE'],
- ape=config['SWINUNET']['APE'],
- patch_norm=config['SWINUNET']['PATCH_NORM'],
- use_checkpoint=config['SWINUNET']['USE_CHECKPOINTS'])
- def forward(self, x):
- if x.size()[1] == 1:
- x = x.repeat(1, 3, 1, 1)
- logits = self.swin_unet(x)
- return logits
-
- if __name__ == '__main__':
- from utils.model_utils import network_parameters
- import torch
- import yaml
- from thop import profile
- from utils.model_utils import network_parameters
- ## Load yaml configuration file
- with open('../training.yaml', 'r') as config:
- opt = yaml.safe_load(config)
- Train = opt['TRAINING']
- OPT = opt['OPTIM']
- height = 256
- width = 256
- x = torch.randn((1, 156, height, width)) # .cuda()
- model = SUNet_model(opt) # .cuda()
- out = model(x)
- flops, params = profile(model, (x,))
- print(out.size())
- print(flops)
- print(params)
复制代码
第四步:运行交互代码
第五步:整个工程的内容
项目完备文件下载请见演示与先容视频的简介处给出:➷➷➷
人脸美颜磨皮祛痘:深度学习SUNet神经网络实现图片修复(含练习代码、数据集和GUI交互界面)_哔哩哔哩_bilibili
|