暴力channel维度的缩减
将layer的输入输出在原网络结构上按相同比例缩减。例如nsfw就是在resnet-50的基础上 缩减而来的。
bottlenect结构
使用1x1的卷积核对原输入降维后,再进行大卷积核的卷积计算。
group卷积
分组卷积先按channel分为多个group,每个group内分别做卷积,group的输出再concat, 最后使用1x1的卷积把所有group信息综合起来。(resnext思想,shufflenet进行了改进)
depthwise卷积
group卷积的特例,group数量等于输入channel数量,即分别对每个channel做卷积,不 考虑channel之间的相关性,然后再由1x1的卷积获取跨通道之间相关性的联系。
Gitalking ...