1977년 개발된 RSA 암호 알고리즘은 거대한 합성수를 두 소수로 분해하기 어렵다는 수학적 사실에 기대어 현대 인터넷 보안을 지탱해 왔다. 1991년 RSA 연구소가 내건 'RSA 소인수분해 챌린지' 가운데 하나인 RSA-260이 마침내 풀렸다. 암호학 역사에 남을 기록이고, 실무 보안 체계가 안전한지 다시 점검해 볼 계기이기도 하다.

35년 만에 해결된 챌린지, RSA-260 소인수분해 성공

2026년 9월 3일, Cognition의 엔지니어 Eric Lu가 260자리 RSA 난수인 RSA-260의 소인수를 찾았다고 발표했다. 1991년 RSA 연구소가 소인수분해 연구를 장려하려고 챌린지를 내건 지 35년 만이다.

RSA-260은 260자리 십진수이자 862비트 크기의 합성수로, 130자리 소수 두 개를 곱한 값이다. 이전 최고 기록인 RSA-250이 2020년 2월에 풀린 뒤 약 6년 만의 성공이다. 당시 RSA-250 해독에는 약 2,700 CPU 코어-년이 들었다.

2026년 9월 3일, Cognition의 엔지니어 Eric Lu가 260자리 RSA 난수의 소인수를 찾아냈다고 발표했다.

RSA-260을 구성하는 130자리 두 소수

RSA 암호의 안전성은 아주 큰 합성수를 두 소수 p와 q로 소인수분해하기가 수학적으로 어렵다는 데 달려 있다. 이번에 풀린 RSA-260은 862비트 크기의 합성수 N이며, 130자리 십진수인 두 큰 소수 p와 q의 곱으로 쪼개졌다.

정리하면 합성수 N은 260자리, 찾아낸 소수 p와 q는 각각 130자리다. Eric Lu가 쓴 연산 알고리즘이나 하드웨어 자원, 걸린 시간 같은 세부 내용은 발표일 기준으로 아직 공개되지 않았고 확인되지도 않았다.

RSA-260은 862비트 크기의 합성수로, 각각 130자리인 두 소인수의 곱으로 해독 검증이 완료되었다.

현행 RSA-2048 시스템은 여전히 안전하다

RSA-260이 풀렸다고 해서 현행 RSA 암호 표준이 위험해진 것은 아니다. RSA-260(862비트)의 보안 강도는 대칭 키 암호 기준으로 74비트 수준에 그치지만, 현재 권장 표준인 RSA-2048은 대칭 키 107비트 수준에 해당하는 보안을 제공한다.

계산량으로 따지면 2048비트 RSA 키를 푸는 데는 이번 RSA-260보다 2^34배, 대략 100억 배 이상의 연산이 더 필요하다. 그래서 이번 해독은 학술적 성과로 보는 것이 맞고, 실무 인터넷 인프라를 위협하지는 않는다.

권장 표준인 RSA-2048은 RSA-260보다 해독 난이도가 약 100억 배 높아서 현재 보안 체계에 영향이 없다.

개발자가 알아야 할 RSA-260 해독의 의미

실무 개발자가 이번 일에서 챙길 것은 키 길이 관리다. 컴퓨팅 성능이 좋아지고 알고리즘이 발전하면 한때 안전했던 짧은 키는 언젠가 뚫린다. 862비트 RSA-260이 풀린 것이 그 예다.

개발자는 지금 관리하는 인프라의 RSA 키 길이를 다시 확인하고, 최소 2048비트 이상을 쓰고 있는지 점검해야 한다. 앞으로 공개될 소인수분해 방법과 하드웨어 명세를 지켜보면서 장기적인 암호 마이그레이션 계획도 세워 두어야 한다.

참고