유명한형제들
인공지능 기술이 발전하면서 네트워크를 통해 스스로 복제하고 전파되는 AI 웜이 새로운 사이버 위협으로 떠올랐다. 기존 악성코드가 미리 작성된 명령에 따라서만 동작했던 것과 달리, AI 웜은 환경 변화에 맞춰 자율적으로 공격 경로를 탐색하고 수정한다. 이러한 자율 에이전트 형태의 공격은 대상 시스템을 침해한 뒤 새로운 작동 인스턴스를 만들어내며 빠르게 확산할 수 있다. AI 기반 공격의 구체적인 전파 양상과 이를 방어하기 위한 기술적·정책적 체계를 분석한다.
스스로 복제하고 진화하는 AI 웜의 등장
AI 웜은 인공지능을 활용해 기능을 고도화한 악성코드로, 대상 시스템을 침해하고 스스로 복사하여 추가 시스템에서 동일한 과정을 반복할 수 있는 자율 에이전트다. 정찰과 침해, 자격 증명 활용 및 전파 단계를 하나로 결합해 성공적인 침해가 이루어질 때마다 향상된 기능을 가진 새로운 작동 인스턴스를 생성한다.
사전에 정의된 알고리즘이나 고정된 명령에 의존하는 기존 악성코드와 달리, AI 웜은 기기의 보안 환경을 스스로 분석하고 가장 효과적인 공격 방법을 탐색한다. 인간의 개입 없이도 의사결정을 내리고 목표 시스템의 특성에 맞게 행동을 수정할 수 있어 감염 속도와 정교함이 기존 위협을 크게 상회한다.
가상 네트워크 실험으로 확인된 전파 능력
캐나다 토론토대 벡터 연구소와 영국 케임브리지대 공동 연구팀은 리눅스, 윈도우, 사물인터넷 기기 등 33대로 구성된 가상 기업 네트워크에서 AI 웜 실험을 15차례 진행했다. 실험 결과 AI 웜은 평균 31.3개의 취약점을 찾아냈고 23.1개 시스템에서 관리자 권한을 확보하는 성과를 보였다.
권한을 획득한 후에는 평균 20.4개 시스템으로 스스로를 복제해 옮겨갔다. 이는 전체 네트워크 기기의 약 61.8퍼센트에 달하는 비중으로, 사람의 추가 지시가 없는 상태에서도 시스템 과반 이상을 빠르게 제어할 수 있음을 입증한 결과다.
사물인터넷 기기를 통한 확산 가능성 경고
앤트로픽 연구진은 보안 관리가 취약한 저가 가전과 업데이트가 중단된 사물인터넷 기기가 AI 웜의 주요 확산 경로가 될 수 있다고 경고했다. 실제 실습 연구에서는 대당 약 55달러 수준인 안드로이드 TV 기기 15대를 연결해 260억 개 매개변수를 가진 대형 모델을 분산 실행하는 데 성공했다.
당시 연산 속도는 초당 0.39토큰에 불과했으나, 소형 모델의 성능 개선 추세가 유지된다면 올해 말까지 자율적인 복제와 전파에 필요한 기술적 요건이 완성될 것으로 전망된다. 단말기 간 자율 복제가 일반화될 경우 일상적인 스마트홈 기기 전반이 위험에 노출될 수 있다.
인공지능을 활용한 사이버 보안 대응 강화
방어 측면에서도 머신러닝과 행동 분석을 결합한 AI 보안 시스템 도입이 늘어나는 추세다. 마이크로소프트는 매일 25억 건 이상의 클라우드 기반 AI 탐지 건수를 처리하며 고객 시스템을 실시간으로 보호하고 있다.
국내 보안 업계 역시 수백억 건의 위협 데이터를 AI에 학습시켜 대응 속도를 높였다. SK쉴더스의 AI 보안관제 플랫폼 시큐디움은 하루 평균 약 170억 건의 보안 데이터를 학습하여 위협 판정 시간을 약 75퍼센트 단축하는 성과를 거두었다.
표준화된 보안 프레임워크와 안전 기준
지능형 공격에 맞서기 위해 국제적으로 검증된 보안 기준의 준수가 강조되고 있다. 주요 보안 기관 및 기업들은 OWASP LLM Top-10 및 NIST AI RMF 1.0을 중심으로 체계적인 위험 관리를 수행하고 있다. 추가로 MITRE ATLAS와 ISO/IEC 42001 지침도 AI 시스템의 취약점을 점검하는 데 광범위하게 쓰인다.
한편 앤트로픽과 같은 AI 안전 연구 기업은 대규모 피해 위험에 대비해 정부 차원의 통제권을 부여하는 법안도 제시했다. 해당 제안은 AI 모델로 인해 50명 이상의 사망자가 발생하거나 10억 달러 이상의 재산 피해가 우려될 경우 정부가 해당 모델의 출시를 중단시킬 수 있도록 하는 안전 기준을 골자로 한다.
참고
댓글 0개
아직 댓글이 없습니다. 첫 댓글을 남겨보세요.