인공지능이 스스로 연구를 수행하고 인간 개발자들과 직접 겨뤄 압도적인 성과를 내는 시대가 열렸다. 메타의 자율 AI 연구 시스템인 AIRA3가 엔비디아 주최 캐글 대회에서 뛰어난 성적을 거두며 금메달을 획득하는 쾌거를 이루었다. 이는 단순한 실험실 단계를 넘어 실제 경쟁 환경에서 자율 에이전트 네트워크의 성능을 증명한 중요한 이정표다. 개발자들에게는 향후 AI 모델 학습과 미세 조정의 자동화 방향성을 제시하는 강력한 사례가 된다.

메타의 AI 에이전트 캐글 금메달 획득

메타의 자율 AI 에이전트 시스템인 AIRA3는 엔비디아 주최 캐글 대회에서 전체 참가자 중 상위 0.2% 이내에 드는 성과를 거두었다. 약 4,000개 팀이 치열하게 경쟁한 이번 대회에서 AIRA3는 최종 8위를 기록하며 금메달을 확보했다. 캐글 규정상 1,000개 이상의 팀이 참여한 대회에서 금메달을 받으려면 리더보드 10위 이내 및 상위 0.2%의 조건을 만족해야 하는데, AIRA3는 이 기준을 완벽히 충족했다.

이러한 성과는 인간 개발자들과 실시간으로 경쟁하는 라이브 환경에서 달성되었다는 점에서 가치가 높다. AIRA3는 기존의 단일 에이전트 방식에서 벗어나 중앙 통제 없이 비동기적으로 협업하는 에이전트 네트워크 모델을 적용했다. 개별 에이전트들이 스스로 문제를 분할하고 해결책을 찾아 유기적으로 움직인 결과물이다.

자율 AI 연구 시스템 AIRA3가 약 4,000개 팀 중 8위로 캐글 금메달을 확보했다.

네모트론 모델 추론 능력 강화 미션

이번 대회인 'NVIDIA Nemotron Model Reasoning Challenge'의 핵심 과제는 300억(30B) 매개변수 규모의 네모트론 모델을 미세 조정하여 추론 능력을 극대화하는 것이었다. 모든 참가팀은 동일한 공개 모델과 벤치마크, 인프라 및 평가 제약 조건 하에서 미세 조정 정확도를 겨루어야 했다. AIRA3 역시 이 동일한 환경에서 미세 조정을 수행하며 최고 수준의 추론 성능을 입증했다.

특히 대회에서는 자원의 한계와 효율적인 설계를 유도하기 위한 엄격한 제약 조건이 부여되었다. 제출하는 코드는 랭크 32 이하의 LoRA 어댑터만 적용 가능하도록 제한되었다. 이러한 엄격한 제약 속에서도 AIRA3는 효율적인 최적화 기법을 스스로 탐색해 나가며 가이드라인에 부합하는 솔루션을 도출해 냈다.

대회 과제는 300억 매개변수의 네모트론 모델을 LoRA 어댑터로 미세 조정하는 것이었다.

네모트론 3 나노 30B 모델 스펙

기본 모델로 사용된 네모트론 3 나노는 엔비디아가 추론 및 비추론 작업 모두에 범용적으로 대응할 수 있도록 처음부터 직접 훈련한 대규모 언어 모델이다. 전체 파라미터 규모는 300억 개이지만, 연산 효율을 높이기 위해 실질적으로 활성화되는 액티브 파라미터는 30억 개로 설계되었다.

이 모델은 전체 300억 파라미터 중 30억 액티브 파라미터만 활용하는 구조적 특징 덕분에 고성능의 연산 효율을 낸다. 이를 통해 추론 연산에 드는 자원을 획기적으로 줄이면서도 특정 전문 분야에 미세 조정되었을 때 높은 수준의 정확도를 일관되게 유지한다. 효율성과 정확성의 조화는 복잡한 추론 문제 해결에서 가장 중요한 경쟁력으로 작용한다.

네모트론 3 나노는 300억 전체 파라미터 중 30억 액티브 파라미터를 활용해 고효율을 낸다.

오케스트레이터 없는 독립 에이전트 협업

AIRA3의 혁신적인 구조는 중앙 오케스트레이터 없이 독립된 에이전트들이 비동기식으로 협동한다는 점에 있다. 기존 에이전트 시스템은 모든 명령과 분배를 책임지는 중앙 제어기가 존재하여 병목 현상을 유발하는 한계가 있었다. 메타 연구진은 이러한 문제를 해결하기 위해 분산형 아키텍처를 전면에 내세웠다.

각 에이전트는 독립적으로 작업을 수행하며, 작업 진행 상황과 결과물은 모두가 공유하는 포럼과 공유 파일 시스템에 기록된다. 각 에이전트가 다른 동료 에이전트의 작업 결과를 비동기적으로 읽고 이어서 연구를 고도화하는 흐름이다. 이 과정에서 한 에이전트의 실행에 실패나 지연이 발생하더라도 전체 프로세스가 멈추지 않고 다른 에이전트들이 이를 지속적으로 보완해 나간다.

AIRA3는 중앙 제어기 없이 독립된 에이전트들이 비동기식으로 파일 시스템과 포럼에서 협동한다.

자율 AI 연구 에이전트의 미래와 시사점

AIRA3가 거둔 성과는 자율 연구 시스템이 복잡한 소프트웨어 엔지니어링 실무 영역에서도 인간 전문가를 능가할 가능성이 충분함을 보여준다. 단순한 연구실 내 벤치마크 테스트를 넘어 실제 캐글 환경에서 최상위권의 성적을 냈다는 사실은 AI 에이전트의 실전 적용 시기가 눈앞에 다가왔음을 시사한다.

특히 LoRA 어댑터 미세 조정과 같은 탐색 공간이 넓고 최적화 매개변수 설정이 복잡한 작업에서 자동화 에이전트의 효율성이 극대화되었다. 인간 개발자가 며칠씩 고민하며 시도해야 하는 최적의 조합을 비동기식 에이전트들이 스스로 분담하여 해결한 것이다. 앞으로 AI 모델 자체의 고도화와 파인튜닝 연구마저 기계가 완전히 주도하는 패러다임의 전환을 대비해야 할 때다.

참고