AI 기술이 통제하기 어려운 속도로 나아가고 있다는 내부 고발이 이어지고 있다. 최근 오픈AI와 앤트로픽에서 첨단 모델의 사전학습을 맡았던 연구원이 사직하면서 업계가 크게 술렁였다. 기술이 쓸모 있는 만큼 그 뒤의 실존적 위험을 경고하는 연구자들의 목소리도 커지고 있다. AI로 서비스를 만드는 개발자들도 모델 성능과 함께 안전성과 통제 가능성을 진지하게 따져야 할 때다.

핵심 사전학습 연구원의 사직과 폭로

제이콥 콕슨 연구원은 지난 3년간 오픈AI와 앤트로픽 두 곳에서 첨단 인공지능 모델의 사전학습을 맡아 온 핵심 인력이다. 그는 2026년 9월 8일 앤트로픽을 떠나면서 소셜미디어에 두 회사의 속도 경쟁이 얼마나 위험한지 공개적으로 밝혔다. 앤트로픽 지분 권리 확정까지 약 2개월밖에 남지 않은 상태에서 이를 포기하고 나왔다는 점도 업계에 파장을 일으켰다.

콕슨은 오픈AI와 앤트로픽이 안전성과 통제력을 잃은 채 '자기 개선형 초지능' 개발을 위한 무리한 속도 경쟁에만 매달리고 있다고 지적했다. 겉으로는 안전을 약속하는 기업들이 실제로는 파멸적 미래로 이어질 수 있는 위험을 외면하고 있다며 강하게 비판했다.

오픈AI와 앤트로픽 출신 연구원 제이콥 콕슨이 초지능 개발 속도 경쟁의 위험성을 경고하며 사직했다.

연구자들이 추산한 AI 실존적 위험 비중

안전 위험을 걱정하는 사람은 콕슨만이 아니다. 앤트로픽에서 정렬 과학을 총괄하는 에번 휴빙어는 앞으로 10년 안에 AI가 인류를 멸종으로 이끌 실존적 위험을 10% 초과로 추산했다. 오픈AI에서 AI 에이전트를 모니터링하는 연구원 마커스 윌리엄스는 정부 규제나 개발사 간 조율된 감속이 없으면 수년 안에 인류가 멸종할 가능성이 70%에 이른다는 극단적인 전망까지 내놓았다.

이 수치들은 핵심 개발진 내부에서 공유되는 파멸에 대한 공포가 어느 정도인지 보여준다. 이들은 시스템이 통제를 벗어나기 전에 속도를 늦출 규제 장치부터 마련해야 한다고 한목소리로 요구하고 있다.

주요 AI 연구진이 제시한 수년 내 인류 파멸 확률 추정치를 비교해 보여준다.

안전 약화 조치와 인터넷 통제 우려 시간표

이런 경고와 반대로 개발사들의 안전 조치는 약해지는 흐름이다. 앤트로픽은 2026년 2월, 위험 통제에 실패하면 모델 개발을 멈추겠다는 약속이 담긴 안전 헌장 서약 조항을 갑자기 삭제했다. 기업들이 안전 기준보다 개발 경쟁을 앞세운다는 의심이 커지는 대목이다.

다리오 아모데이 앤트로픽 최고경영자는 정렬되지 않은 첨단 AI 시스템이 이르면 6~12개월 안에 인터넷 전체를 장악할 역량을 갖출 수 있다고 말하기도 했다. 통제 수단이 없는 상태에서 이 시나리오가 현실이 되면 사회적 혼란이 어디까지 번질지 가늠하기 어렵다.

안전 서약 조항 삭제와 통제 불능 AI의 인터넷 장악 예상 시점을 정리해 보여준다.

개발 현장의 비공식 우려와 개발자의 과제

다만 연구자들이 제시한 10% 초과, 70% 같은 수치는 공인된 정량 프로토콜에 따른 공식 통계가 아니다. 개별 연구자가 느끼는 주관적 위험 인식에서 나온 비공식 평가다. 그래도 내부 고발자들이 털어놓은 공포는 기술 개발 속도가 안전망 구축 속도를 한참 앞질렀다는 증거로 읽힌다.

AI를 실제 비즈니스와 서비스에 붙이는 현장 개발자들도 경각심을 가질 필요가 있다. API의 성능과 편의성만 볼 게 아니라, 도입하려는 모델의 통제 가능성과 안전 기준을 까다롭게 검증해야 한다. 기술을 직접 다루는 실무자가 통제력 상실의 위험을 먼저 감시하고 목소리를 내야 안전한 개발 생태계가 유지된다.

참고