Anthropic, la empresa desarrolladora del asistente Claude, ha propuesto una pausa global en el desarrollo de sistemas de inteligencia artificial cada vez más potentes, advirtiendo que los modelos más recientes podrían escapar del control humano. La compañía, con sede en San Francisco, presentó un informe en el que sostiene que una desaceleración coordinada a escala mundial permitiría que las estructuras sociales y las investigaciones de alineamiento se pongan al día con el avance tecnológico. Sin embargo, el documento reconoce que si solo una empresa reduce su ritmo, corre el riesgo de ser superada por la competencia. La propuesta llega en un momento de aceleración vertiginosa, con datos internos que muestran que la inteligencia artificial está impulsando su propio desarrollo de forma dramática.
El llamado a una moratoria global
Para que una pausa global sea real, Anthropic sostiene que las grandes empresas de inteligencia artificial de varios países, especialmente China y Estados Unidos, deben acordar detener el desarrollo simultáneamente bajo reglas verificables por todas las partes. Sin un mecanismo de coordinación global, advierte la compañía, los gobiernos y las empresas se verán forzados a tomar decisiones difíciles sobre seguridad mientras enfrentan presiones competitivas y geopolíticas. La empresa espera reunir en los próximos meses a funcionarios gubernamentales, científicos, grupos de defensa y competidores para definir cómo funcionaría este sistema. No obstante, la iniciativa enfrenta una resistencia significativa tanto en Washington como en Silicon Valley.
El riesgo del autoaprendizaje recursivo
Uno de los puntos centrales del alerta es el fenómeno conocido como mejora recursiva de sí misma, es decir, la capacidad de un sistema de IA de enseñarse a sí mismo a volverse más inteligente. La compañía destaca que sus datos internos indican que el papel humano está disminuyendo en cada etapa del proceso de desarrollo, lo que podría generar un ciclo de retroalimentación descontrolado. Aunque Anthropic niega que este escenario sea inevitable, subraya que las evidencias apuntan a una reducción progresiva de la intervención humana. El llamado a la coordinación surge precisamente en este contexto de aceleración autogenerada de la inteligencia artificial.
Fricción en Washington y el Valle del Silicio
La propuesta de Anthropic encuentra una resistencia significativa en los círculos oficiales y empresariales de Estados Unidos. Funcionarios del gobierno estadounidense y ejecutivos de grandes tecnológicas argumentan que desacelerar el desarrollo de la inteligencia artificial podría otorgar a China una ventaja estratégica significativa. La presión competitiva es intensa, y la geopolítica añade una capa extra de complejidad al debate sobre seguridad. A pesar de este escepticismo, el presidente Donald Trump firmó esta semana un decreto que permite al gobierno realizar evaluaciones preliminares de los modelos de IA más potentes de empresas estadounidenses antes de su lanzamiento.
El decreto de Trump como primer paso
El decreto de Trump representa un movimiento concreto de regulación, aunque incipiente, hacia un mayor control sobre los sistemas de inteligencia artificial. La medida autoriza al gobierno a examinar los modelos más avanzados antes de que lleguen al mercado, algo que Anthropic considera un paso positivo pero insuficiente sin una coordinación global. La empresa planea, en los próximos meses, involucrar a funcionarios gubernamentales, científicos, grupos de defensa y competidores para definir los contornos de un sistema de verificación internacional. La dificultad, sin embargo, radica en alinear los intereses de países con visiones divergentes sobre el futuro de la tecnología.
Para definir ese sistema de verificación internacional, Anthropic planea involucrar en los próximos meses a funcionarios gubernamentales, científicos, grupos de defensa y empresas competidoras. La compañía espera que estas conversaciones permitan establecer reglas que todas las partes puedan verificar, creando así las condiciones para una pausa coordinada. Sin embargo, el principal obstáculo sigue siendo alinear los intereses contrapuestos de países con visiones diferentes sobre el futuro de la inteligencia artificial. La iniciativa, aunque ambiciosa, enfrenta el escepticismo de quienes dudan de que tal coordinación sea posible en el entorno geopolítico actual.
En ausencia de un acuerdo global, la empresa advierte que las presiones competitivas y geopolíticas forzarán decisiones de seguridad riesgosas. El informe de Anthropic sostiene que el escenario más probable, sin coordinación, es una carrera desenfrenada con consecuencias impredecibles para el control humano sobre estos sistemas. La aceleración del propio desarrollo de la inteligencia artificial, impulsada por datos internos que muestran una disminución del papel humano, vuelve el debate cada vez más urgente. La propuesta de pausa, según la compañía, no es solo una opción prudente sino una necesidad para evitar un punto de no retorno.