计算机工程与科学

作者：辛高枫, 刘玉潇, 张青龙, 韩锐, 刘驰

单位：北京理工大学计算机学院，北京 100081

关键词：深度神经网络,边缘设备,弹性缩放,块,域自适应,

基金：国家重点研发计划（2021YFB3301500）;国家自然科学基金 (62272046,62132019,61872337)

深度神经网络在边缘设备上运行时会面临模型缩放和域自适应2个挑战，现有的模型缩放技术和无监督在线域自适应技术存在缩放粒度粗、缩放空间小和在线域自适应时间长的问题。针对这2个挑战，提出一种块粒度的模型缩放和域自适应训练方法EdgeScaler，它包括离线和在线2个阶段。针对模型缩放挑战，离线阶段能够从各种DNN中检测和抽取块，并将其转换为多个派生块；在线阶段基于块和块之间的组合，提供大规模的缩放空间，解决模型缩放问题。针对域自适应挑战，设计了一种针对于块的残差 Adapter，在离线阶段将其插入块中；在线阶段当新的目标域到来时，对所有的Adapter进行训练，解决块粒度缩放空间中所有选项的域自适应问题。在真实的边缘设备 Jetson TX2上的测试结果表明，在提供大规模缩放选项的基础上，所提方法可以将域自适应训练时间平均减少 85.14%，训练能耗平均减少84.1%。

来源：2024年第8期

《计算机工程与科学》期刊编辑部

查看计算机工程与科学杂志2024年第8期