1977년 개발된 RSA 암호 알고리즘은 거대한 합성수를 두 개의 소수로 분해하는 수학적 난제에 기반하여 현대 인터넷 보안을 지탱해 왔다. 1991년 RSA 연구소가 제안한 'RSA 소인수분해 챌린지' 중 하나인 RSA-260이 마침내 해결되었다. 이번 성과는 암호학 역사의 중요한 이정표이며, 실무 보안 체계의 안전성을 재점검할 계기를 제공한다.

35년 만에 해결된 챌린지, RSA-260 소인수분해 성공

2026년 9월 3일, Cognition의 엔지니어 Eric Lu가 260자리 RSA 난수인 RSA-260의 소인수를 찾아냈다고 발표했다. 이는 1991년 RSA 연구소가 소인수분해 연구 장려를 위해 챌린지를 제안한 지 35년 만에 거둔 역사적 성과다.

RSA-260은 260자리의 십진수이자 862비트 크기를 가진 합성수로, 각각 130자리의 크기를 갖는 소수 두 개의 곱으로 이루어져 있다. 이번 해독은 이전 최고 기록이었던 RSA-250이 2020년 2월에 해독된 이후 약 6년 만에 성공한 것이다. 당시 RSA-250 해독에는 약 2,700 CPU 코어-년이 소요되었다.

2026년 9월 3일, Cognition의 엔지니어 Eric Lu가 260자리 RSA 난수의 소인수를 찾아냈다고 발표했다.

RSA-260을 구성하는 130자리 두 소수

RSA 암호의 안전성은 매우 큰 합성수를 두 개의 소수 p와 q로 소인수분해하는 수학적 어려움에 의존한다. 이번에 해독이 완료된 RSA-260은 862비트 크기의 합성수 N이며, 130자리 십진수로 구성된 두 개의 큰 소수 p와 q의 곱으로 쪼개졌다.

구체적으로 합성수 N은 260자리 수이며, 도출된 소수 p와 소수 q는 각각 130자리 수로 구성되어 있다. 다만 Eric Lu가 사용한 구체적인 연산 알고리즘이나 사용한 하드웨어 자원, 소요 시간 등의 명세는 발표일 기준 아직 공개되지 않았으며 확인되지 않았다.

RSA-260은 862비트 크기의 합성수로, 각각 130자리인 두 소인수의 곱으로 해독 검증이 완료되었다.

현행 RSA-2048 시스템은 여전히 안전하다

이번 RSA-260 해독 성공이 현행 RSA 암호 표준의 위협을 의미하지는 않는다. RSA-260(862비트)의 보안 강도는 대칭 키 암호화 기준으로 단 74비트 수준에 불과하지만, 현재 권장 표준인 RSA-2048은 대칭 키 107비트 수준에 상응하는 강력한 보안을 제공한다.

수학적 계산 측면에서 2048비트 RSA 키를 해독하는 데는 이번에 해독된 RSA-260보다 무려 2^34배, 즉 대략 100억 배 이상의 더 많은 연산 노력이 요구된다. 따라서 이번 해독은 학술적 성과일 뿐이며, 실무 인터넷 인프라를 위협하지 않는다.

권장 표준인 RSA-2048은 RSA-260보다 해독 난이도가 약 100억 배 높아서 현재 보안 체계에 영향이 없다.

개발자가 알아야 할 RSA-260 해독의 의미

실무 개발자가 이번 사건을 통해 명심해야 할 점은 키 길이 관리의 중요성이다. 컴퓨팅 성능의 성장과 수학적 알고리즘의 진보에 따라, 한때 안전하던 과거의 짧은 키들은 결국 시간 문제로 무력화되기 마련이다. 862비트 크기인 RSA-260의 해독 성공이 이를 입증한다.

따라서 개발자들은 현재 관리하고 있는 인프라의 RSA 키 길이를 재점검하고 최소 2048비트 이상을 유지하고 있는지 확인해야 한다. 향후 공개될 구체적인 소인수분해 방법론과 하드웨어 명세를 주시하며 장기적인 암호 마이그레이션 계획을 세워야 한다.

참고