Jacob Coxon, investigador de 27 años de Anthropic, anunció este martes que abandona la industria de inteligencia artificial por temor a que las principales compañías estén avanzando demasiado rápido hacia sistemas capaces de mejorarse por sí mismos.
Coxon, especializado en entrenamiento de modelos mediante grandes volúmenes de datos, había dejado OpenAI a principios de este año para incorporarse a Anthropic, compañía reconocida por enfatizar la seguridad. Ahora considera que incluso esos esfuerzos pueden resultar insuficientes sin coordinación gubernamental o una desaceleración conjunta de la industria.
Su preocupación se concentra en modelos capaces de aprender y aumentar sus propias capacidades.
No te pierdas: Visa amplía su apuesta por stablecoins ante fuerte crecimiento de tarjetas vinculadas a criptomonedas
Coxon teme que sistemas suficientemente avanzados puedan eventualmente resistirse a instrucciones humanas, especialmente mientras empresas estadounidenses compiten entre sí y con desarrolladores chinos.
La salida ocurre mientras crece el debate sobre los riesgos asociados con modelos más potentes. Ejecutivos e investigadores de OpenAI y Anthropic también han pedido mayores precauciones frente a amenazas como ciberataques automatizados y pérdida de control sobre sistemas avanzados.
Coxon figura además entre más de 1,000 investigadores que recientemente respaldaron una declaración solicitando coordinación internacional para establecer mecanismos que permitan frenar el desarrollo si los modelos de autoaprendizaje representan riesgos graves.
En Washington, el debate regulatorio continúa. Actualmente no existe una regulación federal integral sobre inteligencia artificial, mientras algunos legisladores proponen límites específicos al desarrollo de sistemas considerados superinteligentes.
La renuncia también llega mientras Anthropic se prepara para una eventual oferta pública inicial y, según la información disponible, busca una valoración de $2 billones.
Para trabajadores, empresarios e inversionistas, la discusión tiene implicaciones económicas concretas: una regulación más estricta podría modificar inversiones y contratación tecnológica, mientras una expansión acelerada de la IA podría transformar empleos y pequeñas empresas.
El caso refleja una tensión creciente en Silicon Valley: aprovechar el enorme potencial económico de la inteligencia artificial sin avanzar más rápido que la capacidad para controlar sus riesgos.
Da clic aquí y recibe sin costo el mejor análisis económico de Comercio TV directamente en tu bandeja de entrada
