인공지능 에이전트 설계에서 여러 서브 에이전트를 조합하던 방식 대신 하나의 메인 에이전트가 툴을 직접 다루는 구조가 주목받는다. 앤트로픽은 최근 엔터프라이즈 환경에서의 배포 경험을 바탕으로 단일 에이전트 구조의 효율성을 강조한다. 최신 모델의 성능 향상에 따라 에이전트 아키텍처의 기준이 변화하고 있다.

단일 에이전트 구조의 전환

최신 인공지능 모델들은 복잡한 계획을 단일 루프에서 직접 관리할 수 있는 능력을 갖췄다. 이로 인해 여러 개의 서브 에이전트를 거치지 않고 하나의 메인 에이전트가 필요한 툴을 직접 다루는 구조가 가능해졌다. 서브 에이전트 단계를 거치지 않으면서 비용이 절감되고 대기 시간도 단축되는 효과가 나타난다. 이러한 결론은 실제 엔터프라이즈 환경에서의 배포 경험을 바탕으로 도출되었다.

단일 에이전트 구조의 전환 관련 사진

사진: Igor Omilaev · Unsplash

다중 에이전트의 구조적 한계

다중 에이전트 시스템은 작업이 반복해서 전달될 때마다 정보 손실이 발생하는 문제를 겪는다. 에이전트는 일반적인 채팅 상호작용보다 약 4배 많은 토큰을 사용하며, 다중 에이전트 시스템은 채팅보다 약 15배 많은 토큰을 소모해 비용 증가로 이어진다. 단일 에이전트 아키텍처는 다중 에이전트 설정보다 약 두 배 빠르게 실행된다. 에이전트별로 품질 평가가 분산되면서 디버깅과 조정 복잡성이 급격히 증가하는 구조적 한계도 나타난다.

다중 에이전트 시스템은 컨텍스트 손실과 품질 평가 분산 문제를 겪는다.

컨텍스트 로테이션과 성능 저하

대형 모델도 컨텍스트 창의 토큰이 늘어나면 정확도가 떨어지는 컨텍스트 로테이션 현상을 겪는다. 20만 토큰 컨텍스트 창을 가진 모델도 5만 토큰 입력에서 심각한 정확도 손실을 보일 수 있다. 이는 명시된 용량의 4분의 1 수준만 입력되어도 정보 회상 능력이 떨어진다는 것을 의미한다. 토큰 수가 증가함에 따라 모델의 성능이 저하되므로 불필요한 토큰 확장을 막는 접근이 필요하다.

토큰 수가 증가함에 따라 모델의 정보 회상 능력이 떨어지는 현상이 발생한다.

다중 에이전트가 유리한 예외

다중 에이전트 시스템이 단일 에이전트보다 뛰어난 성과를 내는 예외적인 상황도 존재한다. 높은 병렬화가 필요하거나 단일 창 용량을 초과하는 작업에서는 다중 에이전트가 강점을 보인다. 앤트로픽의 내부 연구 평가에 따르면, 리드 에이전트와 서브 에이전트를 조합한 다중 에이전트 시스템은 광범위한 리서치 작업에서 단일 에이전트보다 90.2% 더 나은 성능을 기록했다. 복잡한 툴을 대량으로 활용해야 하는 상황에서도 협업 구조가 유효하게 작동한다.

높은 병렬화가 필요하거나 단일 창 용량을 초과하는 작업에서는 다중 에이전트가 강점을 보인다.

컨텍스트 엔지니어링의 방향

효율적인 에이전트 운영을 위해서는 필요한 최소한의 고신호 토큰 세트를 유지해야 한다. 컨텍스트 엔지니어링은 원하는 결과의 가능성을 최대화하는 가장 작은 고신호 토큰 세트를 큐레이션하고 유지하는 전략 세트를 의미한다. 불필요한 토큰 확장을 막고 컨텍스트 품질을 관리하는 것이 에이전트 성능 유지를 위한 핵심 과제다. 개발자는 작업 특성에 맞춰 단일 구조와 다중 구조를 선택하고 컨텍스트 품질을 관리해야 한다.

컨텍스트 엔지니어링의 방향 관련 사진

사진: Chris Ried · Unsplash

참고