세계 디지털 인프라의 근간을 지탱해 온 C 언어가 보안 취약성이라는 구조적 문제에 직면한 가운데, KAIST가 이를 근본적으로 해결할 기술을 내놓으며 소프트웨어 보안의 미래 지형을 다시 그렸다.

KAIST 전산학부 류석영 교수 연구팀이 C 코드를 러스트(Rust)로 자동 변환하는 핵심 이론과 알고리즘을 정교하게 정리한 연구가 세계 최대 컴퓨터학회 ACM이 발행하는 권위 학술지 CACM 11월호 표지 논문으로 선정되며 국제적 주목을 받았다. 이는 KAIST가 프로그래밍 언어 안전성 분야에서 세계적 리더임을 보여주는 상징적 성과다.

C 언어는 수십 년간 운영체제, 브라우저, 산업용 시스템 등 기반 소프트웨어 개발에 널리 쓰여 왔지만, 메모리 오류와 권한 취약점이 지속적으로 발생해 왔다. 이를 대체할 차세대 언어로 러스트가 급부상하며 미국 백악관과 DARPA도 C 사용 축소와 러스트 전환을 공식 권고한 바 있다. 이러한 흐름 속에서 KAIST는 정책 논의 이전부터 자동 변환 기술의 필요성을 제기하고, 핵심 기능별 변환 기술을 선제적으로 구축해 왔다.

연구팀은 2023년부터 △뮤텍스 변환(ICSE) △출력 파라미터 변환(PLDI) △유니언 변환(ASE) 등 C 언어의 주요 기능을 러스트로 바꾸는 세계 최초 연구들을 연속 발표하며 국제 학계의 주목을 받았다. 각 기술은 코드 치환이 아니라, 원본 프로그램의 의미를 유지한 채 안전성을 강화하는 변환 알고리즘을 구현한 것으로, 자동 변환 전반의 정교한 토대를 마련했다. 이번 CACM 논문은 이러한 연구성과를 하나의 기술적 방향과 학문적 비전으로 묶어낸 종합 정리판이라는 점에서 높은 평가를 받았다.

KAIST 기술의 가장 큰 차별점은 변환의 올바름을 수학적으로 증명할 수 있다는 점이다. 대부분의 변환 연구가 인공지능 모델의 추정에 의존하는 반면, KAIST는 프로그래밍 언어 이론에 기반한 정형 기법을 적용해 "변환된 러스트 코드가 C 원본과 동일한 의미를 지닌다"는 사실을 공식적으로 입증하는 구조를 만들었다. 국가 기반 시스템, 보안 핵심 인프라, 양자컴퓨팅 등 고신뢰 소프트웨어 개발에서 반드시 요구되는 조건이다.

이번 논문의 1저자인 홍재민 박사(KAIST 연수연구원)는 "우리 기술은 추정이 아니라 이론적 증명을 기반으로 한다는 점이 가장 큰 강점"이라며 "보안 강화를 위해 C 생태계를 러스트로 옮기는 과정에서 핵심적 역할을 수행할 수 있을 것"이라고 말했다. 홍 박사는 2025년 UNIST 조교수로 부임할 예정이다.

류 교수 연구팀은 올해 ASE 2025에서도 C→러스트 변환 확장 연구뿐 아니라 △양자컴퓨터 프로그램 검증 △웹어셈블리(Wasm) 정확성 검사·테스트 자동 생성 'WEST' △복잡한 Wasm 코드 간소화 기술 등 4편의 논문이 채택되며 연구 영역을 더욱 넓혔다. WEST 연구는 우수논문상을 수상하며 소프트웨어 공학 분야의 첨단 기술 개발을 선도하는 연구진으로 자리매김했다.

이번 연구는 한국연구재단 선도연구센터와 중견연구자지원사업, 정보통신기획평가원, 삼성전자의 지원을 받아 수행됐다. KAIST는 이번 성과로 글로벌 소프트웨어 보안·언어 변환 기술 분야의 최전선에서 독자적 연구 역량을 입증했다. /대전=이한영기자