La pesadilla que durante años parecía confinada a la ciencia ficción empieza a inquietar a quienes construyen los sistemas de inteligencia artificial más avanzados: máquinas capaces de ayudar a crear versiones superiores de sí mismas, acelerando una carrera tecnológica que eventualmente podría superar la capacidad humana de controlarlas.
Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, renunció a esta última tras concluir que continuar participando en esa competencia era incompatible con sus preocupaciones sobre seguridad.
“Las personas que construyen IA creen sinceramente que podría matarnos a todos antes de que termine la década”, escribió públicamente Coxon en X al anunciar su salida. También acusó a los principales laboratorios de estar “apostando con nuestras vidas”.
No te pierdas: Nvidia discrepa con OpenAI y Anthropic sobre cómo abordar los riesgos de la inteligencia artificial
¿Qué es la auto-mejora recursiva de la IA y por qué preocupa a los investigadores?
El escenario se conoce como auto-mejora recursiva: sistemas de IA que participan cada vez más en la investigación, programación y diseño de la siguiente generación de modelos.
Anthropic reconoce públicamente que ya está delegando una proporción creciente del desarrollo de IA a sus propios sistemas. Sus ingenieros producen actualmente ocho veces más código por trimestre que durante 2021-2025, aunque la compañía aclara que todavía no existe una IA capaz de desarrollar autónomamente a su sucesora y que alcanzar ese punto no es inevitable.
El peligro hipotético aparece si ese ciclo se acelera: una IA mejora herramientas que después construyen sistemas todavía más capaces, reduciendo progresivamente la intervención humana.
“Trabajar incluso en seguridad en Anthropic me hacía sentir cómplice de la carrera”, declaró Coxon en una entrevista con The Wall Street Journal.
No te pierdas: Alarmas en el sector de la inteligencia artificial: Líderes tecnológicos se muestran preocupados
¿Realmente investigadores de Anthropic creen que la IA podría extinguir a la humanidad?
La alarma aumentó cuando Evan Hubinger, responsable de Alignment Science de Anthropic, respaldó públicamente a Coxon.
“Realmente creemos que la IA podría matar a todos los humanos”, escribió Hubinger en X. Su estimación personal sitúa ese riesgo por encima de 10% durante la próxima década. También reconoció que Anthropic todavía no dispone de un plan para resolver completamente la alineación de una eventual superinteligencia.
No se trata de una probabilidad demostrada. Otros investigadores y empresarios consideran exageradas estas proyecciones, mientras Anthropic señala que los modelos actuales presentan un riesgo catastrófico bajo. La preocupación se concentra en sistemas futuros mucho más poderosos.
No te pierdas: Meta se alinea con Nvidia en el debate sobre seguridad de la IA y rechaza frenar su desarrollo
¿Por qué Coxon pide un acuerdo mundial parecido al control de armas nucleares?
Coxon considera insuficiente que cada empresa decida individualmente cuándo frenar. Propone coordinación entre Estados Unidos, China y otras potencias para establecer mecanismos capaces de desacelerar el desarrollo si aparecen señales de peligro.
Cerca de 1,400 investigadores han respaldado una declaración que reclama a los gobiernos crear un “pedal de freno” para escenarios extremos, según The Wall Street Journal.
La lógica recuerda al control nuclear: ningún actor quiere detenerse unilateralmente porque teme que un rival continúe avanzando. Ese incentivo competitivo podría empujar a empresas y países a aceptar riesgos que individualmente considerarían excesivos.
No te pierdas: Sam Altman pide reglas comunes para la IA y advierte: “Podríamos perder el control” del futuro
¿Qué ocurriría si la inteligencia artificial comenzara a desarrollar su propia sucesora?
Anthropic plantea que una IA capaz de automatizar investigación y desarrollo podría transformar ciencia, medicina y tecnología. Pero reconoce también que la auto-mejora completa elevaría el riesgo de perder control sobre sistemas cada vez más capaces.
La dimensión económica sería igualmente extraordinaria. Capital, talento y centros de datos están concentrándose alrededor de una tecnología cuyo avance podría automatizar programación, investigación científica y múltiples empleos profesionales.
Coxon abandonó Anthropic antes de recibir acciones de una compañía que, según The Wall Street Journal, se prepara para una posible salida a bolsa con una valoración cercana a $2 billones.
Su decisión resume la contradicción que atraviesa Silicon Valley: nunca hubo tanto dinero detrás de una tecnología y, al mismo tiempo, voces desde sus propios laboratorios advirtiendo sobre consecuencias potencialmente catastróficas.
La incógnita ya no es únicamente cuánto puede avanzar la IA. Es si gobiernos y empresas podrán establecer límites antes de que sistemas capaces de acelerar su propio desarrollo conviertan una carrera comercial en algo mucho más difícil de detener.
Da clic aquí y recibe sin costo el mejor análisis económico de Comercio TV directamente en tu bandeja de entrada
