
文 博 1 邵 华 2
1. 云津智慧科技有限公司 四川省成都市 610000 2. 中科智数(武汉市)科技有限公司 湖北省武汉市 430000
摘要:深度学习模型在计算机视觉、自然语言处理等领域得到广泛应用,但是它在低算力边缘设备上部署的需求却很大。矛盾的核心就是模型性能提高的同时,参数量和计算量都会增大。本文主要针对面向低算力设备的模型轻量化技术展开系统的整理工作,从架构设计和模型压缩两方面入手,对剪枝、量化、知识蒸馏以及轻量化网络架构等方法做了详细的分析。通过典型应用场景的对比评价来考察各种方法在精度和资源节约之间取得的平衡。从分析结果可知,单一的轻量化方法很难达到精度和效率的双重要求,多技术协同优化已经成为了该领域的主要模式。在此基础上,对神经架构搜索、动态推理等新的发展动向进行分析。
关键词:模型轻量化;低算力设备;模型压缩;剪枝;知识蒸馏;边缘计算
参考文献
[1] 高杨 , 曹仰杰 , 段鹏松 . 神经网络模型轻量化方法综述 [J]. 计算机科学 , 2024, 51(6A): 230600137-11.
[2] 丁贵广 , 陈辉 , 王澳 , 等 . 视觉深度学习模型压缩加速综述 [J]. 智能系统学报 , 2024, 19(5): 1072-1081.
[3] 神经网络压缩联合优化方法的研究综述 [J]. 智能系统学报 , 2024, 19(1): 36-57.
[4] 基于量化的深度神经网络优化研究综述 [J]. 山东师范大学学报 ( 自然科学版 ), 2024(1).
[5] 面向边缘端的 YOLOv4-tiny 网络硬件加速器设计 [J]. 北京邮电大学学报 , 2025(4).
[6] 边缘资源轻量化需求下深度神经网络双角度并行剪枝方法 [J]. 沈阳工业大学学报 , 2025(2).
[7] 面向轻量级无人机的 IB-YOLOv8 目标检测方法研究 [J]. 无线电工程 , 2025(9).
[8] 轻量化深度卷积神经网络设计研究进展 [J]. 计算机工程与应用 , 2024.
作者简介:文博(1992—),男,汉族,本科,研究方向为计算机技术。