사물 인식 네트워크 압축 시의 Tucker Decomposition 랭크 선택

Information

Title 사물 인식 네트워크 압축 시의 Tucker Decomposition 랭크 선택
Authors 임호림, 이상구
Year 2018 / 6
Keywords object detection network, Tucker decomposition, network compression
Publication Type Domestic Conference
Publication 한국컴퓨터종합학술대회 (KCC 2018)
Link url

Abstract (Korean)

본 논문에선 DNN 압축 시 사용되는 Tucker Decomposition의 중요 파라메터-(r3, r4) 결정 방법을 제안한다. Tucker Decomposition 후의 원본과의 차이를 기반으로 하는 이 방식으로 Tiny YOLO의 정확도를 전혀 잃지 않으면서도 웨이트의 크기를 5.8배 이상 줄일 수 있었다. Threshold 값을 조정하여 더 공격적으로 압축한 경우엔, VBMF로 랭크를 결정하는 것에 비해 1.5배 이상 높은 압축률을 보이면서도 2.5%p 높은 정확도를 기록했다. 더 나아가 몇 개의 레이어에서의 Brute force를 통해 본 랭크 결정 방법이 효과적임을 보였다.