무선 프로토콜 자동 분석기 연구 및 개발

방우림, 전영배, 심신우, 김광수, 윤지원

http://doi.org/10.5626/JOK.2019.46.8.852

자동 프로토콜 역공학이란 비공개 프로토콜의 포맷, 의미, 파라미터를 자동적으로 분석하는 것을 의미한다. 자동 프로토콜 역공학은 네트워크 상에서 유포되는 악성코드를 탐지하기 위해 사용되거나 자체적으로 규약한 프로토콜에 대한 보안성, 적절성 검증을 위해 사용될 수 있다. 기존의 자동 프로토콜 역공학 관련 연구는 텍스트 기반 프로토콜과 유선 프로토콜을 대상으로 많이 진행되었다. 무선 기기가 증가함에 따라, 무선 프로토콜을 대상으로 한 프로토콜 자동 분석기 연구의 필요성이 증대되고 있다. 따라서, 본 논문에서는 무선 프로토콜의 특성을 반영한 프로토콜 자동분석기 연구 및 개발을 진행하였다. 무선 프로토콜 분석을 위해 본 연구에서는 바이너리 단위로 메시지를 분석하였다. 유사한 메시지들끼리 군집화를 수행하기 위해 패킷 수집 시간 간격에 따른 가중치를 부여하여 메시지 거리를 계산하는 기법을 제안한다. 본 연구에서 제시한 기법을 통해 IEEE 802.11 프로토콜을 따르는 메시지를 수집하여 분석한 결과, 800개의 메시지들 중 95.1%의 메시지의 타입을 정확히 분류해낼 수 있었으며, 간결도는 3.6 이었다. 기존 프로토콜 자동 분석기인 Netzob을 이용하여 분석한 결과 정밀도는 92.1%, 간결도는 3.5로 본 논문에서 제안한 기법이 더 좋은 성능을 보인다.