최신 CPU는 병렬 연산을 극대화하는 구조적 특성 때문에 예측 불가능한 실행 흐름이 흔히 발생한다. 이 과정에서 한 번 비틀린 명령 순서는 치명적 오류로 이어질 수 있으며, 기업 서버와 스마트 기기 전체의 보안까지 위협하는 출발점이 된다. 문제는 이러한 오류가 실제 하드웨어에서도 거의 드러나지 않아, 글로벌 IT 기업조차 완전한 검증이 어려웠다는 점이다.

KAIST 연구팀이 이 난제를 정면 돌파했다. 전산학부 권영진 교수팀은 실제 CPU 없이도 CPU 내부의 명령 처리 흐름을 가상 환경에서 그대로 재현해, 숨겨진 오류를 자동 탐지하는 기술을 구축했다. 이 기술은 지금까지 글로벌 산업계에서도 명확한 해법이 존재하지 않았던 영역으로, KAIST가 사실상 최초 수준의 성과를 보인 셈이다.

권 교수팀은 해당 시스템을 기반으로 최신 리눅스 커널을 직접 구동해 분석했고, 그 과정에서 새로운 커널 버그 11건을 찾아보고하며 전부 수정됐다. 전 세계 서버·슈퍼컴퓨터·스마트폰의 공통 기반이 리눅스 커널이라는 점을 고려하면, 이 기술은 연구 성과가 아니라 글로벌 컴퓨팅 안전성에 기여하는 실질적 성과로 평가된다.

구글은 이 기술을 "자사 인프라에서도 매우 중요한 가치가 있다"고 판단하며 Research Scholar Award(시스템 분야)를 수여했다. 이 상은 전 세계 신진 교수 중 소수만 선정되는 최고 수준의 글로벌 연구 지원 프로그램이다. 특히 시스템 ·OS 연구 부문에서는 국내 수상 사례가 매우 드물다.

권 교수팀의 기술은 Apple M3를 비롯한 최신 ARM 기반 서버의 내부 동작을 그대로 모사할 수 있다. CPU가 여러 작업을 처리하면서 명령 순서가 꼬이는 순간을 가상 환경에서 그대로 포착해 내고, 이를 통해 보안 취약점을 미리 제거하는 방식이다. 기존 방식처럼 칩을 분해하거나 실물 장비를 반복 실험할 필요도 없다.

이 기술은 리눅스에만 적용되는 것이 아니라 안드로이드·윈도우 등 주요 운영체제 전반에 동일하게 적용할 수 있는 구조를 갖추고 있다. 연구팀은 관련 소프트웨어를 GitHub에 공개해 누구나 활용하도록 했다. 학계·기업·오픈소스 커뮤니티에서 활용 범위가 빠르게 확장될 것으로 전망된다.

권영진 교수는 "KAIST 시스템 연구의 국제적 경쟁력을 다시 한번 확인한 성과"라며 "안전성이 확보된 컴퓨팅 환경을 만들기 위한 핵심 기술 연구를 지속해 나아가겠다"고 말했다. /대전=이한영기자