인공지능 모델의 성능 경쟁이 한층 치열해지는 가운데, AI 서비스를 개발하고 실무에 도입하는 현장의 보안 리스크 역시 직전과는 비교할 수 없을 만큼 가파르게 증가하고 있다. 글로벌 주요 AI 기업들이 차세대 모델을 경쟁적으로 선보이는 한편, 자율 작동하는 AI 에이전트의 보급으로 취약점 공격 노출면이 급격히 넓어지는 추세다. 국가 차원의 보안 강화 움직임과 함께 현장 개발자들에게는 단순한 기능 구현을 넘어 개발 전 과정에 보안을 기본 원칙으로 내재화하는 철저한 대응 전략이 요구되고 있다.

차세대 AI 모델 경쟁 가열과 보안성 평가의 등장

오픈AI는 범용인공지능 시대를 겨냥해 사이버 보안 부문에서 '크리티컬' 등급을 받은 최초의 모델인 GPT-6 아스트라를 전격 공개했다. 구글과 앤트로픽 역시 각각 플래시 모델과 클로드 페이블, 미토스 등을 순차적으로 선보이며 기술 주도권을 확보하기 위한 치열한 경쟁을 펼치고 있다. 구체적인 출시 시점은 명확히 확정되지 않았으나 주요 프론티어 모델들이 연이어 시장에 쏟아져 나오는 양상이다.

이처럼 인공지능의 성능이 폭발적으로 향상됨에 따라 모델 자체의 안전성과 보안 검증 체계를 확보하는 일이 업계 전반의 핵심 과제로 급부상했다. 고도화된 모델이 단순 답안 생성을 넘어 복잡한 작업을 수행하는 상황에서, 보안성 평가는 단순한 부가적 절차가 아니라 시스템 안정성을 보장하기 위한 필수적 요건이 되었다.

AI·LLM 서비스 취약점 및 보안 위협 급증

카스퍼스키 조사 결과에 따르면 2026년 2분기 AI 및 LLM 서비스에서 등록된 취약점 수가 935건으로 집계되며 전년 4분기 대비 10배 증가한 수치를 나타냈다. 전체 취약점 가운데 심각한 취약점은 119건에 달해 지난해 말과 비교했을 때 약 5배 급증한 것으로 확인되었다.

아울러 인기 AI 서비스로 위장하여 중소기업을 타깃으로 삼은 사이버 공격 역시 2026년 1월부터 4월까지 3만 3300건 이상 탐지되었으며, 이는 전년 동기 대비 약 5배 상승한 수치다. AI 서비스 활용도가 높아짐에 따라 외부 위협 노출 가능성이 기하급수적으로 증대되고 있으므로 현장 개발진의 즉각적인 대응책 마련이 시급하다.

2026년 2분기 AI 및 LLM 서비스의 등록 취약점이 935건으로 폭증하며 개발 현장의 보안 위협이 급격히 늘어났다.

에이전트 AI의 확산과 신원 관리의 부재

Fetch.ai는 단 20초 만에 AI 에이전트를 제작할 수 있는 신규 도구를 출시하는 등 에이전트 AI의 구축과 보급 편의성을 비약적으로 높이고 있다. 스스로 판단하고 작업을 실행하는 자율 에이전트의 도입이 빠르게 늘어남에 따라, 발생 가능한 보안 리스크와 오작동을 실시간으로 감시하고 모니터링해야 할 필요성도 크게 늘어났다.

그러나 에이전트의 자율적 확장 속도에 비해 보안 관리 대비 체계는 심각하게 저조한 실정이다. 최근 Okta가 임원 260명을 대상으로 진행한 설문조사에 따르면, 비인간 및 에이전트 신원 관리를 위한 잘 개발된 전략을 제대로 갖춘 조직은 전체의 10%에 불과한 것으로 조사되었다. 권한 남용 및 정체성 도용 위험에 무방비로 노출될 수 있어 조직적 관리가 시급하다.

AI 에이전트 생성 도구로 자율성이 확대되고 있으나 조직 차원의 에이전트 신원 관리 전략은 매우 부족한 실정이다.

국가 차원의 AI 보안 전면화 및 특화 모델 개발

한국의 국가인공지능전략위원회는 AI 모델의 기획 및 개발 단계부터 실제 운영에 이르기까지 전 과정에 보안을 기본 원칙으로 내재화하는 'AI 보안 전면화' 계획을 수립하고 본격 추진에 나섰다. 국가 차원에서 인공지능 생태계 전체의 안전성을 다지는 전면적인 체계 전환을 꾀하는 흐름이다.

이 일환으로 사업 수행 기관에 선정된 네이버클라우드 컨소시엄은 GPU B200 총 256장을 지원받아 사이버 위협에 전문적으로 대응하는 독자적 보안 특화 AI 파운데이션 모델 개발에 착수한다. 이번 프로젝트에는 총 32개 기업 및 기관이 다각도로 참여하여 고성능 AI 인프라를 확보하고 보안에 최적화된 기술 기반을 다질 예정이다.

국가인공지능전략위원회가 AI 보안 전면화를 추진하며 GPU B200 256장을 투입해 특화 AI 인프라 구축에 나선다.

실전 개발자를 위한 AI 보안 로드맵

AI 기술 도입 속도가 점차 가속화되는 현시점에서 개발자는 기획부터 배포까지 서비스 전체 수명주기에 보안을 기본 원칙으로 적용해야 한다. 에이전트 AI 및 LLM을 연동할 때는 모델의 모든 행동과 입출력을 세밀하게 기록하고 실시간 분석하는 로깅 체계를 구축하여 예기치 않은 동작을 감지하고 대처해야 한다.

미국이 G20을 대상으로 규제 완화를 요구하는 등 국제적인 정책 변류가 존재하더라도, 실무 현장에서는 규제 유무와 무관하게 내부 취약점 방어와 에이전트 신원 관리 강화를 소홀히 해서는 안 된다. 개발 초기부터 국가적 지원 기반의 보안 특화 프레임워크와 검증된 인프라를 적극적으로 활용함으로써 지속 가능한 보안성을 확보해야 한다.

참고