上海科技大学知识管理系统

目的 将面向服务器端设计的跟踪算法迁移部署到边缘端能显著降低功耗，具有较高的实用价值。当前基于Transformer的跟踪算法具有明显的性能优势，然而部署在边缘端时，却可能产生较高的延迟。为了解决这个问题，提出了一种面向边缘端的线性分解注意力（linearly decomposed attention,LinDA）结构，可有效降低Transformer的计算量和推理延迟。方法 LinDA将多头注意力近似表示成数据依赖部分和数据无关部分的和：对于数据依赖部分，用简单的向量元素间相乘及求和表示，避免了复杂的转置和矩阵乘法；对于数据无关部分，直接利用统计得到的注意力矩阵，然后加上一个可学习偏置向量。这种分解既具有全局注意力，又保持了数据依赖的优点。为了弥补线性分解带来的精度损失，还设计了一种知识蒸馏方案，它在原始的损失函数上增加了两部分蒸馏损失：1）将真实包围框替换成教师模型预测的包围框作为监督目标，称为硬标签知识蒸馏；2）将教师模型预测得分的相对大小作为监督目标，称为关系匹配知识蒸馏。基于LinDA结构进一步实现了一种面向边缘端的目标跟踪算法LinDATrack，并将其部署在国产边缘计算主机HS240上。结果 在多个公开数据集上进行了评测。实验结果表明，该算法在该计算主机上可达到61.6帧/s的跟踪速度，功耗约79.5 W，功耗仅占服务器端的6.2%，同时其在LaSOT和LaSOT＿ext上的成功率（success rate, SUC）相对于服务器端基线算法SwinTrack-T最多仅下降约1.8%。结论 LinDATrack具有良好的速度和精度平衡，在边缘端具有较大的优势。