가변 해상 환경에서의 실시간 객체 탐지를 위한 YOLOv11 기반 동적 가지치기 및 통합 경량화 기법

한민석¹ ; 황재룡²^{, *}

1해군사관학교 전자제어공학과 부교수
2해군 중령/해군사관학교 사이버과학과 교수

Dynamic Pruning and Integrated Lightweight Optimization of YOLOv11 for Real-Time Object Detection in Variable Maritime Environments

Min-Seok Han¹ ; Jaeryong Hwang²^{, *}

1Associate professor, Dept. of Electronics and Control Engineering, Republic of Korea Naval Academy
2LCR, ROK Navy/Professor, Dept. of Cyber Science, Republic of Korea Naval Academy

Correspondence to: *Jaeryong Hwang Dept. of Cyber Science, Republic of Korea Naval Academy 1 Jungwon-ro, Jinhae-gu, Changwon-si, Gyungsangnam-do, 51704, Republic of Korea Tel: +82-55-907-5350 E-mail: jhwang@navy.ac.kr

초록

현대 해전의 스마트 함정 구축을 위해 제한된 엣지 컴퓨팅 자원에서 원거리 소형 표적을 실시간으로 탐지하는 기술은 필수적이다. 본 논문에서는 해군 엣지 디바이스(Jetson Orin)에 최적화된 YOLOv11 기반의 통합 경량화 기법을 제안한다. 제안 기법은 조도 변화에 실시간으로 대응하는 제어 기반 동적 가지치기(dynamic pruning) 메커니즘과 함께, 40 %의 가중치 가지치기, INT8 양자화, 지식 증류 기법을 유기적으로 결합하였다. 실험 결과, 베이스라인 모델 대비 mAP 성능 저하를 0.8 % 수준으로 억제하면서도 모델의 크기를 75 % 감소시켰다. 특히 추론 속도는 기존 12 FPS에서 42 FPS로 약 3.5배 향상되어, 가변적인 해상 환경에서도 신뢰성 있는 실시간 탐지가 가능함을 입증하였다.

Abstract

In the context of modern naval warfare and smart ship development, the ability to detect distant small targets in real-time using limited edge computing resources is critical. This paper proposes an integrated lightweight optimization technique for YOLOv11, specifically tailored for naval edge devices (e.g., Jetson Orin). Our approach synergistically combines control-based Dynamic Pruning—which adapts to real-time illumination changes—with 40 % weight pruning, INT8 quantization, and knowledge distillation. Experimental results demonstrate that the proposed method reduces the model size by 75 % while limiting mAP degradation to a minimal 0.8 % compared to the baseline. Notably, inference speed increased approximately 3.5 times, improving from 12 FPS to 42 FPS. These findings verify the feasibility of reliable real-time detection in variable maritime environments.

Keywords:

YOLOv11, Dynamic Pruning, Model Compression, Edge AI, Maritime Object Detection

키워드:

동적 가지치기, 모델 경량화, 엣지 AI, 해상 객체 탐지

Acknowledgments

이 논문은 2025년도 해군사관학교 해양연구소 지원을 받아 수행된 논문임.

References

H. Sun, W. Zhang, S. Yang, and H. Wang, “Lightweight Single-Stage Ship Object Detection Algorithm for Unmanned Surface Vessels Based on Improved YOLOv5,” Sensors, Vol. 24, No. 17, 5603, Aug. 2024. [https://doi.org/10.3390/s24175603]
C. Niu, D. Han, B. Han, and Z. Wu, “SAR-LtYOLOv8: A Lightweight YOLOv8 Model for Small Object Detection in SAR Ship Images,” Comput. Syst. Sci. Eng., Vol. 48, No. 6, pp. 1723–1748, 2024. [https://doi.org/10.32604/csse.2024.056736]
Y. Fan, L. Zhang, and P. Li, “A Lightweight Model of Underwater Object Detection Based on YOLOv8n for an Edge Computing Platform,” J. Mar. Sci. Eng., Vol. 12, No. 5, 697, Apr. 2024. [https://doi.org/10.3390/jmse12050697]
V. Sanikommu, S. P. Marripudi, H. R. Yekkanti, R. Divi, R. Chandrakanth, and P. Mahindra, “Edge Computing for Detection of Ship and Ship Port from Remote Sensing Images Using YOLO,” Front. Artif. Intell., Vol. 8, 1508664, Feb. 2025. [https://doi.org/10.3389/frai.2025.1508664]
Y. Wang, M. Song, L. Wen, Y. Tong, J. He, and J. Ruan, “Development and Validation of YOLO Models for Water Surface Object Detection in Maritime Surveillance,” in Proc. SPIE 13692, Fourth International Conference on Electronics Technology and Artificial Intelligence (ETAI 2025), Jul. 2025, 1369249. [https://doi.org/10.1117/12.3068399]