Anthropic propuso tres métricas para que los laboratorios de inteligencia artificial puedan medir con mayor precisión qué tan rápido avanzan sus sistemas y cuánto control mantienen sobre ellos. La iniciativa llega días después de que su CEO, Dario Amodei, planteara una desaceleración coordinada del desarrollo de modelos avanzados.
La compañía sostiene que existe una brecha entre lo que los laboratorios conocen sobre sus sistemas y la información disponible públicamente. Su propuesta busca reducirla mediante indicadores que permitan observar no solamente qué puede hacer un modelo, sino cómo está siendo desarrollado.
No te pierdas: “La IA podría matarnos a todos”: Renuncia a Anthropic y desata ola de temor sobre la inteligencia artificial
¿Cuáles son las tres métricas que Anthropic propone para medir el desarrollo de la IA?
La primera evalúa cuánto trabajo de investigación y desarrollo puede realizar la IA sin intervención humana. Anthropic determinó que Claude todavía no funciona completamente de forma autónoma en ninguno de los grupos de tareas analizados.
La segunda mide la capacidad humana para supervisar e intervenir en agentes de IA. El dato revela la escala alcanzada dentro de la empresa: aproximadamente 30,000 agentes realizaban simultáneamente tareas de investigación e ingeniería en su plataforma interna más utilizada.
La tercera examina cómo se distribuye la capacidad computacional. Entre el 13 y el 20 de julio, aproximadamente 6% del cómputo destinado a investigación y desarrollo de IA fue asignado a seguridad. Entre los recursos dedicados específicamente al desarrollo impulsado por IA, la proporción destinada a seguridad alcanzó cerca de 12%.
No te pierdas: Meta se alinea con Nvidia en el debate sobre seguridad de la IA y rechaza frenar su desarrollo
¿Por qué estas métricas podrían cambiar la vigilancia sobre el desarrollo de inteligencia artificial?
Las cifras introducen una manera más concreta de evaluar la velocidad del sector. Las pruebas tradicionales muestran las capacidades de los modelos; estos indicadores buscan revelar cuánto contribuye la propia IA a desarrollar sistemas futuros, qué supervisión humana existe y cuántos recursos se destinan a seguridad.
Los 30,000 agentes constituyen una señal particularmente relevante. Si estos sistemas aumentan progresivamente su autonomía, podrían acelerar investigación, programación y mejoras de modelos, reduciendo el tiempo necesario para desarrollar nuevas generaciones de IA.
El reparto del cómputo también incorpora una dimensión económica. Entrenar y operar modelos requiere grandes inversiones en centros de datos, chips y electricidad. Conocer cuánto de esa infraestructura se dedica a seguridad permitiría comparar las prioridades de diferentes laboratorios si otras compañías adoptan mediciones similares.
Anthropic considera que estos indicadores deberían complementar las evaluaciones de capacidades y proporcionar a terceros una referencia para analizar el ritmo de desarrollo.
Las métricas no determinan cuándo debería desacelerarse la industria. Sin embargo, convierten un debate dominado por advertencias en variables observables que empresas, investigadores y autoridades podrían utilizar para evaluar si las capacidades avanzan más rápido que los mecanismos diseñados para supervisarlas.
Da clic aquí y recibe sin costo el mejor análisis económico de Comercio TV directamente en tu bandeja de entrada
