稀疏卷积 Sparse Convolution Net

稀疏卷积 Sparse Convolution Net

概述

这是一篇对稀疏卷积讲述非常全面的文章,理解起来毫不费事。这里要和SPConv相区别,这是两个完全不同的东西。SPConv是为了解决普通3 * 3卷积算子参数冗余而设计的,一种“即插即用”计算单元,可以随时随地替换普通3 * 3卷积算子,可以用来提高模型推理速度吧。跟剪枝算法差不多。 下面要讲述的是稀疏卷积Sparse Convolution Net,转载自https://zhuanlan.zhihu.com/p/383299678,写的十分详细。通俗易懂,方便读者理解。

简介

​ 稀疏卷积常用于3D项目(如3D点云分割)中,由于点云数据是稀疏的,无法使用标准的卷积操作。同理,2D任务中,如果只处理其中一部分像素,也需要使用稀疏卷积,这样有助于模型加速。

原理解析

​ 本质上就是通过建立哈希表,保存特定位置的计算结果。下文将通过举例说明稀疏卷积的原理。

输入数据

​ 如下图所示,有一个3通道的 5x5 图像。除了两个点 P1 和 P2 之外,所有像素都是(0, 0, 0)。 根据 [1],P1 和 P2,此类非零元素(即P1、P2)也称为activate input sites。输入张量的形状按NCHW 顺序为[1x3x5x5]。在稀疏形式下,[P1,P2]数据列表为 [[0.1, 0.1, 0.1], [0.2, 0.2, 0.2]] ,索引列表为 [[1,2], [2, 3]] 。

相关推荐

六种质子泵抑制剂(拉唑类)的区别和用药风险 365bet提款问题
保险分期的公司有哪些 365bet提款问题

保险分期的公司有哪些

09-25 👁️ 6278
裤子尺码对照表 365bet提款问题

裤子尺码对照表

11-03 👁️ 6510