AI 개발 속도가 통제할 수 있는 범위를 넘어서고 있다는 경고가 나왔다. 거대 모델이 잇따라 나오고 에이전트가 빠르게 발전하는 가운데, 안전장치가 갖춰질 때까지 개발 속도를 늦춰야 한다는 목소리가 커지고 있다. 이 기술을 직접 다루는 개발자들도 기술을 어떻게 통제할지라는 현실적인 문제에 부딪히고 있다.

오픈AI 최고과학자의 AI 개발 속도 조절 경고

2026년 9월 6일, 오픈AI 최고과학자 야쿱 파초키는 에세이 '이종의 지성'에서 AI 개발 속도를 제어해야 한다고 경고했다. 새 모델 GPT-6 아스트라가 공개된 지 사흘 만이다. 파초키는 정렬과 감시 문제를 확실히 다룰 수 있게 될 때까지 속도를 늦춰야 한다고 주장했다.

그는 아직 어떤 연구소도 정렬 문제를 충분히 풀지 못했으니 무조건 최고 속도로 개발을 밀어붙여서는 안 된다고 강조했다. 샘 알트만 CEO도 이 글을 개인 사회관계망서비스에 공유하며 아주 중요한 글이라고 평가했다.

오픈AI 최고과학자 야쿱 파초키가 GPT-6 아스트라 공개 사흘 만에 AI 개발 속도를 늦춰야 한다는 에세이를 발표했다.

사고 과정 모니터링의 한계와 이종의 지성

요즘 AI는 사람이 설계한다기보다 스스로 학습하며 자라는 이종의 지성에 가까워졌고, 그만큼 기존 안전성 검증이 잘 먹히지 않게 됐다. 사람이 다 이해하기 어려운 복잡한 지능이 모델 안에서 만들어지고 있기 때문이다.

모델이 자기 사고 과정을 말로 드러내지 않고도 정밀한 추론을 해내면서, 사고 과정을 들여다보는 기존 모니터링 방식으로는 위험을 감시하기 어려워졌다. 그는 해법으로 자발적인 속도 조절, 공통 안전 기준 마련, 긴밀한 국제 협력을 내놓았다.

현대 AI가 성장하는 이종의 지성으로 변화하면서 기존 사고 과정 모니터링 기법의 안전성 검증 효과가 떨어지고 있다.

오픈AI 내부의 연구 가속화 목표

최고과학자가 이런 경고를 냈는데도 오픈AI 안에서는 연구 자동화를 밀어붙이며 연구 생산성 목표를 오히려 높이고 있다.

공개된 수치를 보면 2026년 8월 중순 기준 AI 에이전트는 8시간 근무하는 인간 연구원 하루 작업량의 3.1배를 혼자 처리했다. 회사는 스스로 개선 작업을 하는 자동화된 AI 연구 인턴 단계를 이미 예정보다 일찍 마쳤다고 덧붙였다.

오픈AI는 2028년 3월까지 이 시스템을 발전시켜 실제 '자동화된 인공지능 연구원' 수준의 자율 시스템으로 만들겠다는 로드맵도 밝혔다.

파초키의 경고에도 불구하고 오픈AI는 AI 에이전트를 통한 연구 자동화를 가속하며 생산성 목표를 제시했다.

거대 모델 GPT-6 아스트라의 하드웨어 스펙

최근 성능이 공개된 GPT-6 아스트라는 텍사스 스타게이트 사이트에서 엔비디아 블랙웰 GPU 10만 개 이상을 투입해 학습한 거대 모델이다. 텍스트와 이미지 입력을 함께 받으며, 오픈AI 역사상 가장 많은 학습 자원을 쓴 프론티어 모델이다.

컨텍스트 윈도우는 105만 토큰이고, 성능 강도를 조절하는 추론 노력 수준을 5단계로 제공한다. ARC-AGI-3 벤치마크에서는 99.9%의 정답률을 기록했다.

GPT-6 아스트라는 10만 개 이상의 GPU로 학습되었으며 105만 토큰 컨텍스트를 지원하는 거대 프론티어 모델이다.

재귀적 자기 개선 시대와 개발자의 과제

AI가 스스로를 고치고 개량해 나가는 재귀적 자기 개선 시대가 머지않았다는 전망이 나온다. 파초키는 지금의 속도 경쟁이 몇 년 안에 모델이 스스로 지능을 키우는 재귀적 자기 개선으로 이어져 파국적인 상황을 부를 수 있다고 지적했다.

실시간 감시와 제어 없이 속도만 쫓다 보면 업계 전체가 위험해질 수 있다. 그래서 AI를 시스템에 붙이고 서비스를 직접 만드는 개발자들도 자동화된 에이전트를 만들 때 내부 추론을 추적하고 안전하게 제어할 수 있는 정교한 모니터링 방법을 갖추는 데 신경 써야 한다.

참고