El desarrollo de la inteligencia artificial se convirtió en pocos años en uno de los principales motores de transformación económica, tecnológica y política del mundo. Pero mientras empresas y gobiernos aceleran inversiones para ampliar sus capacidades, también crecen las dudas sobre hasta dónde puede llegar una tecnología cada vez más autónoma y qué ocurre si su desarrollo comienza a superar la capacidad humana para comprenderla o controlarla.

Uno de los principales temores tiene que ver con el denominado problema del alineamiento; que sistemas muy superiores a los actuales aprendan a optimizar objetivos de maneras imprevistas actúen con creciente autonomía o desarrollen capacidades que sus propios creadores no anticiparon.

Geoffrey Hinton, considerado el “padre de la IA” y premio Nobel, considera que un 10% a 20% de probabilidad de que la IA cause la extinción humana en el horizonte de una década o tres es una estimación “razonable y no disparatada”. Su argumento central es que la humanidad jamás ha gestionado una entidad exponencialmente más inteligente que ella misma.

El caso de Jacob Coxon fue el que despertó nuevamente con fuerza el debate. Coxon, un investigador británico de 27 años especializado en preentrenamiento (pretraining) que trabajó durante tres años entre OpenAI y Anthropic, renunció a su puesto en Anthropic y a sus opciones sobre acciones. Esto, denunciando que los laboratorios no están actuando con responsabilidad, compitiendo en una carrera temeraria por alcanzar superinteligencia autorrecurrente (sistemas capaces de rediseñarse a sí mismos de manera autónoma).

El punto no es imaginar necesariamente máquinas conscientes que decidan enfrentarse a los seres humanos, sino sistemas capaces de ejecutar acciones complejas a una velocidad y escala que hagan extremadamente difícil intervenir cuando algo salga mal.

Un peligro sistemico

La IA permite automatizar vulnerabilidades informáticas, escribir código malicioso y coordinar operaciones que antes requerían equipos numerosos y altamente especializados. Eso adquiere especial importancia porque buena parte de la infraestructura crítica —electricidad, agua, transporte, telecomunicaciones, mercados financieros o cadenas logísticas— depende de sistemas digitales interconectados.

Al mismo tiempo, la IA comienza a integrarse con laboratorios robotizados capaces de diseñar y ejecutar miles de experimentos, lo que abre enormes posibilidades para medicina y ciencia, pero también nuevas preguntas sobre bioseguridad y sobre la posibilidad de facilitar el diseño de agentes peligrosos.

A estos riesgos se suma la concentración del poder. Entrenar y desplegar los modelos más avanzados exige cantidades gigantescas de dinero, energía, semiconductores y centros de datos. En Estados Unidos la estrategia depende de un grupo reducido de empresas como OpenAI, Anthropic, Google, Meta, Microsoft, Amazon, Nvidia o xAI. Por eso algunos críticos plantean que el peligro está incluso antes de llegar a una eventual superinteligencia.

Si unas pocas compañías desarrollan sistemas capaces de transformar el trabajo, la información, la economía y eventualmente la seguridad nacional, ¿quién termina controlando realmente esa infraestructura?

Este contexto comenzó a aparecer la idea de un freno. Dario Amodei, CEO de Anthropic, propuso avanzar hacia un desarrollo más pausado de la IA, con evaluadores externos dentro de los laboratorios, estándares comunes entre las grandes compañías y coordinación internacional. Sam Altman CEO de Open AI, Demis Hassabis de Google DeepMind y Elon Musk de xAI también han respaldado, con distintos matices, la idea de reforzar los controles y evitar una carrera completamente desregulada

Pero precisamente cuando aparece la posibilidad de frenar surge la principal dificultad: ¿quién estaría dispuesto a hacerlo primero? Una empresa que desacelera unilateralmente corre el riesgo de perder frente a sus competidores. A escala internacional ocurre algo semejante.

La competencia geopolítica pisa el acelerador

El presidente de Estados Unidos, Donald Trump, rechazó durante los últimos días las propuestas de desaceleración con el argumento de la competencia con China. Según esta lógica, cualquier retraso estadounidense permitiría que Pekín reduzca la ventaja tecnológica norteamericana. “Quien gane la IA, gana” dijó Trump.

La administración estadounidense lanzó en 2025 la denominada Genesis Mission como un esfuerzo nacional destinado a conectar supercomputadores, grandes bases de datos, laboratorios nacionales, universidades y empresas para acelerar descubrimientos científicos mediante inteligencia artificial.

Por eso, la analogía con el Proyecto Manhattan que buscaba la bomba nuclear. La diferencia es que antes la meta era clara. O sea, construir una bomba atómica funcional antes que la Alemania nazi. En inteligencia artificial nadie sabe exactamente dónde termina la carrera.

En realidad, existen varias competencias simultáneas. Está la carrera por construir los modelos más capaces, pero también por controlar los mejores semiconductores, acumular capacidad de cómputo y energía, atraer científicos, introducir IA dentro de empresas y administraciones públicas, desarrollar aplicaciones militares y conseguir que otros países adopten determinados modelos y estándares. Incluso llegar primero a una inteligencia artificial general podría no ser el verdadero punto de inflexión.

La ventaja decisiva podría producirse cuando un país consiga sistemas suficientemente capaces para acelerar el desarrollo de todas las demás tecnologías. La carrera no es simplemente por fabricar el mejor chatbot, sino por construir primero una máquina capaz de aumentar la velocidad con que un país produce conocimiento científico, industrial y militar.

China rechaza públicamente la idea de presentar esta transformación como una carrera existencial entre grandes potencias. Pekín sostiene que la IA debería desarrollarse mediante cooperación internacional, gobernanza multilateral y mayor acceso para los países en desarrollo.

Pero eso no significa que China esté desacelerando. Su estrategia “IA+” busca incorporar masivamente sistemas inteligentes dentro de la industria, la ciencia y la administración durante los próximos años, mientras desarrolla autonomía en semiconductores, capacidad de cómputo y modelos propios.

China apuesta con fuerza por modelos de pesos abiertos como DeepSeek o Qwen y presenta esa apertura como una manera de democratizar el acceso internacional a la tecnología. Para Pekín, esto también tiene una clara dimensión geopolítica. Si universidades, empresas o gobiernos de Asia, África o América Latina pueden descargar, modificar y ejecutar localmente modelos chinos relativamente baratos, disminuye su dependencia de plataformas estadounidenses. No es necesario que China posea permanentemente el modelo más poderoso, pues también puede obtener influencia si millones de usuarios construyen aplicaciones sobre su infraestructura.

Estados Unidos mantiene una estructura diferente. Buena parte de su frontera tecnológica depende de compañías privadas cuyos modelos más avanzados funcionan mediante sistemas propietarios. Sin embargo, Washington también entiende que los modelos abiertos tienen valor estratégico y ha comenzado a promover alternativas estadounidenses capaces de competir internacionalmente. Su objetivo declarado es exportar hacia aliados y socios no solamente modelos, sino una verdadera pila tecnológica compuesta por inteligencia artificial, semiconductores, infraestructura, programas y estándares.

El dilema del prisionero

Eso cambia nuevamente el significado de “ganar”. Estados Unidos y China no compiten solamente por construir primero el sistema más inteligente. Compiten por decidir sobre qué ecosistema tecnológico funcionará buena parte del planeta durante las próximas décadas. Una potencia podría incluso tener temporalmente un modelo inferior y, sin embargo, conseguir una posición estructuralmente más fuerte si otros países dependen de sus chips, centros de datos, programas, estándares y sistemas de inteligencia artificial.

Esta dimensión geopolítica hace tan difícil responder a las advertencias iniciales. El argumento estadounidense se sostiene bajo la premisa sobre si China continúa avanzando, detener unilateralmente la investigación podría significar entregar una ventaja estratégica. Pero de esa premisa no se desprende necesariamente que la única respuesta racional sea avanzar todo lo rápido posible.

Ahí aparece lo que se conoce como el “dilema del prisionero”; una decisión que parece racional para cada actor individual puede generar un resultado peor para todos. Ambas potencias podrían estar objetivamente más seguras si acordaran ciertos límites al desarrollo y despliegue de sistemas de IA de alto riesgo, pero ninguna quiere frenar primero por temor a que la otra aproveche esa pausa para obtener una ventaja estratégica.

Washington teme que una regulación más estricta le haga perder terreno frente a Pekín, mientras China teme que aceptar restricciones que Estados Unidos no cumpla o interprete de forma más flexible termine consolidando la superioridad tecnológica estadounidense. El resultado es que, aunque ambos tienen incentivos para reducir riesgos, cada uno considera racional seguir acelerando mientras desconfía del otro.

Así, decisiones individualmente lógicas pueden producir un resultado colectivamente peor. Más velocidad, menos tiempo para evaluar seguridad y mayores probabilidades de accidente, escalada o pérdida de control.