인공지능 개발의 글로벌 중단 제안 — AI 개발사 Anthropic이 최첨단 AI 시스템의 개발 속도를 늦추기 위한 전 세계적 모라토리엄을 공식 제안했다. 샌프란시스코에 본사를 둔 이 회사는 발표한 보고서에서 최신 모델이 인간의 통제를 벗어날 조짐이 있다고 경고하며, 글로벌 차원의 조정된 중단이 필요하다고 주장했다. Anthropic은 단일 기업이 속도를 줄일 경우 경쟁사에 뒤처질 위험이 크다는 점을 인정하면서도, 사회적 구조와 정렬 연구가 기술 발전을 따라잡을 시간을 확보하기 위해 협력된 유예 조치가 필수적이라고 강조했다. 이번 제안은 AI 업계가 급속도로 발전하는 가운데 나왔으며, 회사 내부 데이터는 AI가 스스로의 발전을 극적으로 촉진하고 있음을 시사한다.
글로벌 조정의 필요성과 현실적 장벽
Anthropic이 구상하는 실질적인 중단은 중국과 미국을 포함한 여러 국가의 주요 AI 기업들이 동시에 개발을 멈추고, 모든 참여자가 검증 가능한 규칙에 동의해야 가능하다. 보고서는 글로벌 조정 메커니즘이 없다면 기업과 정부는 경쟁적·지정학적 압력 속에서 안전에 관한 어려운 결정을 내려야 할 것이라고 경고했다. 이 회사는 앞으로 몇 달 안에 정부 관료, 과학자, 옹호 단체, 그리고 경쟁 기업들을 한자리에 모아 이러한 시스템이 어떻게 작동할지 정의할 계획이다. 그러나 이 계획은 워싱턴과 실리콘밸리 양측에서 상당한 저항에 직면해 있다. 미국 정부 관계자와 기술 기업 임원들은 AI 개발 속도를 늦추는 것이 중국에 전략적 이점을 제공할 수 있다고 우려한다.
자기 개선의 순환 고리: 통제 불능의 위험
Anthropic 경고의 핵심에는 '재귀적 자기 개선' 현상이 자리잡고 있다. 이는 AI 시스템이 스스로 학습하여 더 지능적으로 변하는 능력을 의미한다. 회사 내부 데이터는 AI 개발의 각 단계에서 인간의 역할이 점차 줄어들고 있음을 보여주며, 이는 통제 불능의 피드백 고리로 이어질 수 있다고 지적한다. Anthropic은 이러한 시나리오가 불가피하다고 단정하지는 않지만, 증거는 인간 개입의 점진적 감소를 가리키고 있다고 강조한다. 이 같은 호소는 AI 자체 발전이 가속화되는 맥락에서 제기되었으며, 그 속도는 기존의 거버넌스 체계가 따라잡기 어려울 정도로 빠르다.
트럼프 행정명령: 부분적 진전, 그러나 불충분
이러한 저항 속에서 도널드 트럼프 대통령은 이번 주 행정명령에 서명하여 미국 기업의 가장 강력한 AI 모델에 대해 출시 전 정부의 예비 평가를 허용했다. 이 조치는 아직 초기 단계이지만 규제의 구체적인 움직임으로 평가받는다. Anthropic은 이 행정명령을 긍정적인 단계로 보면서도, 글로벌 조정 없이는 불충분하다는 입장이다. 회사는 앞으로 수개월 동안 정부 관료, 과학자, 옹호 단체, 그리고 경쟁사들과 협력하여 국제적 검증 시스템의 윤곽을 그리려 할 계획이다. 그러나 기술의 미래에 대해 상반된 시각을 가진 국가들의 이해관계를 조정하는 것은 극히 어려운 과제로 남아 있다.
지정학적 경쟁과 안전의 딜레마
Anthropic의 제안이 직면한 가장 큰 장애물은 미국과 중국 간의 기술 패권 경쟁이다. 워싱턴의 많은 관계자들은 AI 개발 둔화가 미국의 전략적 지위를 약화시킬 것이라고 우려한다. 지정학적 긴장은 안전 논의에 추가적인 복잡성을 부과하며, 기업들은 시장 압박과 안전 요구 사이에서 줄타기를 해야 한다. 보고서는 경쟁 압력과 지정학적 요인이 안전에 관한 위험한 결정을 강제할 수 있다고 경고한다. 이러한 상황에서 Anthropic이 추구하는 검증 가능한 국제 규칙의 수립은 현실적으로 요원해 보인다.
국제 협력의 미래: 시계는 똑딱이고 있다
Anthropic은 진정한 글로벌 중단이 이루어지려면 중국과 미국 등 주요국 기업들이 동시에 개발을 중단하고 상호 검증 가능한 규칙을 수립해야 한다고 주장한다. 이러한 합의 없이는 경쟁과 지정학이 안전보다 우선시될 가능성이 높다고 회사는 경고한다. 보고서는 AI 자체 발전 가속화가 이 논의를 더욱 시급하게 만들었다고 지적한다. 조정 메커니즘이 마련되지 않으면, 가장 가능성 높은 시나리오는 통제 불능의 질주이며, 인간이 이러한 기계를 통제할 수 있는 능력은 예측 불가능한 결과를 초래할 것이라고 경고한다.