0%

减小模型大小的一些设计思路

暴力channel维度的缩减

将layer的输入输出在原网络结构上按相同比例缩减。例如nsfw就是在resnet-50的基础上 缩减而来的。

bottlenect结构

使用1x1的卷积核对原输入降维后,再进行大卷积核的卷积计算。

group卷积

分组卷积先按channel分为多个group,每个group内分别做卷积,group的输出再concat, 最后使用1x1的卷积把所有group信息综合起来。(resnext思想,shufflenet进行了改进)

depthwise卷积

group卷积的特例,group数量等于输入channel数量,即分别对每个channel做卷积,不 考虑channel之间的相关性,然后再由1x1的卷积获取跨通道之间相关性的联系。