轻量级神经网络(LNN)的纯整数量化方法

	轻量级神经网络(LNN)的纯整数量化方法
翻译题名	PURE INTEGER QUANTIZATION METHOD FOR LIGHTWEIGHT NEURAL NETWORK (LNN)
申请号	US17799933
	2023-06-22
公开（公告）号	US20230196095A1
公开日期	2023-06-22
摘要	提供了一种用于轻量级神经网络(LNN)的纯整数量化方法。所述方法包括以下步骤：获取当前层的特征图的每个所述通道中的每个像素点的最大值；将所述特征图的每个所述通道中的每个像素的值除以所述最大值的t次方，t∈[0, 1]；将所述通道中的每个通道中的权重乘以相应特征图的所述通道中的每个通道中的每个像素的最大值；以及将所述处理后的特征图与所述处理后的权重进行卷积，以获取下一层的特征图。该算法分别在SkyNet和MobileNet上进行验证，实现了SkyNet上的无损INT8量化和MobileNetv2上迄今为止的最大量化精度。
翻译摘要	A pure integer quantization method for a lightweight neural network (LNN) is provided. The method includes the following steps : acquiring a maximum value of each pixel in each of the channels of the feature map of a current layer; dividing a value of each pixel in each of the channels of the feature map by a t-th power of the maximum value, t∈[0, 1]; multiplying a weight in each of the channels by the maximum value of each pixel in each of the channels of the corresponding feature map; and convolving the processed feature map with the processed weight to acquire the feature map of a next layer. The algorithm is verified on SkyNet and MobileNet respectively, and lossless INT8 quantization on SkyNet and maximum quantization accuracy so far on MobileNetv2 are achieved.
当前权利人	Shanghaitech University
专利申请人	Shanghaitech University
	Weixiong Jiang; Yajun Ha
公开国别	美国
公开国别简称	US
IPC 分类号	G06N3//08
CPC分类号	G06N3//08
专利有效性	有效
专利类型	发明申请
专利类型字典	1
当前法律状态	授权
授权公告日	2024-03-19
授权公开（公告）号	US11934954B2
简单同族	CN113128116A; US20230196095A1; WO2022222369A1
扩展同族	CN113128116A; US20230196095A1; WO2022222369A1
INPADOC 同族	US20230196095A1
文献类型	专利
条目标识符	https://kms.shanghaitech.edu.cn/handle/2MSLDSTB/310345
专题	信息科学与技术学院_PI研究组_哈亚军组信息科学与技术学院_博士生
作者单位	Shanghaitech University
推荐引用方式 GB/T 7714	Weixiong Jiang,Yajun Ha. 轻量级神经网络(LNN)的纯整数量化方法. US17799933[P]. 2023-06-22.

条目包含的文件
文件名称/大小	文献类型	版本类型	开放类型	使用许可
轻量级神经网络(LNN)的纯整数量化方法（346KB）	专利		限制开放	CC BY-NC-SA	请求全文