[신화망 베이징 8월14일] 흔한 ‘노면 얼룩’이 자율주행 자동차의 판단력을 흐리게 함으로써 1초 안에 차량이 통제 불능에 빠져 주행차로에서 이탈하게 할 수 있다. 국제 연구진이 이런 가능성을 확인하면서 자율주행차의 안전성에 대한 관심을 증폭시키고 있다.
자율주행 기술은 종종 사람들이 상상하는 것처럼 그리 똑똑하지 않다. 일부인이 쉽게 식별할 수 있는 장난이 자율주행 자동차의 판단력을 완전히 흐리게 할 수도 있다. 일례로 교통표지판 위의 스티커나 낙서가 자율주행차가 주차표지를 속도제한표지로 착각하게 만들 수도 있다.
미국 캘리포니아대학교 어바인 캠퍼스와 미국 노스이스턴대학교 등의 연구원들은 최근 연구에서 노면 얼룩 도안으로 위장한 공격 패치(patch)가 자율주행차의 자동차로변경(ALC) 시스템을 오도하도록 함으로써 차량을 주행차로에서 이탈시켜 심각한 교통사고를 일으킬 수 있다는 것을 발견했다. 이런 연구 성과는 지난 12일(베이징 시간) 제30회 유즈닉스 시큐리티 컨퍼런스(USENIX Security Conference)에서 온라인으로 발표됐다. 유즈닉스 시큐리티 컨퍼런스는 세계 4대 최고 보안학회 중 하나다.
자율주행 기술이 보급됨에 따라 현재 많은 레벨2(부분 자동화) 승용차들은 차량 핸들이 차로 중앙에서 유지하도록 자동 통제할 수 있는 ALC시스템을 탑재했다. ALC시스템은 통상적으로 심층신경망(Deep Neural Networks∙DNN)을 이용한 차로 검사로 자동차로변경기능을 구현한다. 연구진은 안전 분석을 통해 DNN 모형층에 결함이 있으면 물리 세계의 적대적 공격(adversarial attack)을 받기 쉽다는 것을 발견했다.
노면 얼룩은 현실 생활에서 매우 보편적이므로 운전자가 부주의하기 쉽다. 연구진은 적대적 신경망을 이용해 오도성 도안을 생성하고 이를 노면 얼룩으로 위장해 공격을 더욱 은폐시킴으로써 이런 ‘악의적 로드 패치(malicious road patch)’가 ALC시스템을 오도하도록 만들었다.
연구진은 축소된 환경, 자율주행 시뮬레이터, 실제 차량에서 각각 ‘악의적 로드 패치’ 공격을 테스트했는데 모두 ALC 시스템을 오도시키는 데 성공해 차량 충돌 사고를 일으켰다. ALC시스템을 탑재한 실제 차량에 대한 효과 검증에서 테스트 차량은 10회 테스트에서 충돌률이 100%에 달했다.
논문 교신 저자인 천치(陳齊) 캘리포니아대학교 어바인 캠퍼스 조교수는 “ALC시스템은 요즘 각종 차종에 광범위하게 응용되고 있다”면서 “편리하긴 하지만 ALC 시스템은 높은 안전성을 갖춰야 한다. 시스템이 잘못된 방향 전환 결정을 내렸을 때 운전자는 곧 발생할 안전 위험을 방지할 반응시간이 충분하지 않을 수도 있다”고 말했다.
캘리포니아대학교 어바인 캠퍼스에서 박사 과정을 밟고 있는 논문 공동 제1저자 Takami Sato와 선쥔제(沈駿傑)는 “일부 자동차 메이커는 이런 종류의 공격을 방어하기 위해 노면 얼룩과 ‘악의적 로드 패치’를 ALC 시스템 사용 매뉴얼 내 현 단계에서 처리할 수 없는 시나리오 리스트에 추가해 운전자가 이런 위험의 존재를 사전에 인지하도록 돕는다. 여건이 되는 메이커는 라이다(LiDAR∙Light Detection and Ranging)와 카메라 등의 다중 센서 융합 방안을 채택하거나 차로 검사와 지도 데이터 융합 방식을 채택해 공격을 방어할 수도 있다”고 말했다.
원문 출처: 신화사
