인공지능이 스스로 연구를 하고 인간 개발자들과 직접 겨뤄 좋은 성적을 내기 시작했다. 메타의 자율 AI 연구 시스템 AIRA3가 엔비디아 주최 캐글 대회에서 뛰어난 성적으로 금메달을 땄다. 실험실이 아닌 실제 경쟁 환경에서 자율 에이전트 네트워크의 성능을 확인했다는 점에서 의미가 있다. 개발자에게는 앞으로 AI 모델 학습과 미세 조정이 어떤 방향으로 자동화될지 보여 주는 사례이기도 하다.

메타의 AI 에이전트 캐글 금메달 획득

메타의 자율 AI 에이전트 시스템 AIRA3는 엔비디아 주최 캐글 대회에서 전체 참가자 중 상위 0.2% 안에 들었다. 약 4,000개 팀이 경쟁한 이번 대회에서 AIRA3는 최종 8위로 금메달을 받았다. 캐글 규정상 1,000개 넘는 팀이 참여한 대회에서 금메달을 받으려면 리더보드 10위 이내이면서 상위 0.2%에 들어야 하는데, AIRA3는 이 조건을 모두 채웠다.

이 성과는 인간 개발자들과 실시간으로 겨루는 라이브 환경에서 나왔다는 점에서 더 값지다. AIRA3는 기존의 단일 에이전트 방식 대신, 중앙 통제 없이 비동기로 협업하는 에이전트 네트워크 모델을 썼다. 각 에이전트가 스스로 문제를 나누고 해결책을 찾아 맞물려 움직인 결과다.

자율 AI 연구 시스템 AIRA3가 약 4,000개 팀 중 8위로 캐글 금메달을 확보했다.

네모트론 모델 추론 능력 강화 미션

이번 대회 'NVIDIA Nemotron Model Reasoning Challenge'의 핵심 과제는 300억(30B) 매개변수 규모의 네모트론 모델을 미세 조정해 추론 능력을 최대한 끌어올리는 것이었다. 모든 참가팀은 같은 공개 모델과 벤치마크, 인프라, 평가 제약 아래에서 미세 조정 정확도를 겨뤄야 했다. AIRA3도 같은 환경에서 미세 조정을 해 최고 수준의 추론 성능을 냈다.

대회에는 자원을 아끼고 효율적으로 설계하도록 유도하는 엄격한 제약이 걸려 있었다. 제출하는 코드에는 랭크 32 이하의 LoRA 어댑터만 쓸 수 있었다. 이런 제약 속에서도 AIRA3는 효율적인 최적화 기법을 스스로 찾아가며 규정에 맞는 솔루션을 만들어 냈다.

대회 과제는 300억 매개변수의 네모트론 모델을 LoRA 어댑터로 미세 조정하는 것이었다.

네모트론 3 나노 30B 모델 스펙

기본 모델로 쓰인 네모트론 3 나노는 엔비디아가 추론 작업과 비추론 작업에 두루 대응할 수 있도록 처음부터 직접 훈련한 대규모 언어 모델이다. 전체 파라미터는 300억 개지만, 연산 효율을 높이려고 실제로 활성화되는 액티브 파라미터는 30억 개로 설계됐다.

전체 300억 파라미터 가운데 30억 액티브 파라미터만 쓰는 구조 덕분에 연산 효율이 높다. 추론 연산에 드는 자원을 크게 줄이면서도, 특정 전문 분야에 미세 조정하면 높은 정확도를 꾸준히 유지한다. 복잡한 추론 문제를 풀 때는 효율과 정확도를 함께 잡는 것이 가장 큰 경쟁력이 된다.

네모트론 3 나노는 300억 전체 파라미터 중 30억 액티브 파라미터를 활용해 고효율을 낸다.

오케스트레이터 없는 독립 에이전트 협업

AIRA3 구조의 가장 큰 특징은 중앙 오케스트레이터 없이 독립된 에이전트들이 비동기로 협동한다는 점이다. 기존 에이전트 시스템에는 모든 명령과 분배를 맡는 중앙 제어기가 있어 병목이 생기는 한계가 있었다. 메타 연구진은 이 문제를 풀기 위해 분산형 아키텍처를 택했다.

각 에이전트는 따로 작업하고, 진행 상황과 결과물은 모두가 함께 쓰는 포럼과 공유 파일 시스템에 기록한다. 에이전트들은 동료 에이전트의 작업 결과를 비동기로 읽고 그 위에서 연구를 이어 간다. 이 과정에서 한 에이전트의 실행이 실패하거나 늦어져도 전체 프로세스는 멈추지 않고, 다른 에이전트들이 계속 그 빈자리를 메운다.

AIRA3는 중앙 제어기 없이 독립된 에이전트들이 비동기식으로 파일 시스템과 포럼에서 협동한다.

자율 AI 연구 에이전트의 미래와 시사점

AIRA3의 성과는 자율 연구 시스템이 복잡한 소프트웨어 엔지니어링 실무에서도 인간 전문가를 앞설 수 있음을 보여 준다. 연구실 벤치마크 테스트가 아닌 실제 캐글 환경에서 최상위권 성적을 냈다는 사실은 AI 에이전트를 실전에 쓸 시기가 가까워졌다는 신호다.

특히 LoRA 어댑터 미세 조정처럼 탐색 공간이 넓고 최적화 매개변수 설정이 복잡한 작업에서 자동화 에이전트의 효율이 두드러졌다. 인간 개발자가 며칠씩 고민하며 시도해야 할 최적 조합을 비동기 에이전트들이 스스로 나눠 맡아 찾아냈다. AI 모델 고도화와 파인튜닝 연구까지 기계가 주도하는 쪽으로 판이 바뀌는 상황에 대비해야 할 때다.

참고