Anthropic eligió a Accenture como su primer evaluador integrado, dando un paso concreto para implementar la propuesta del CEO Dario Amodei de moderar el ritmo de desarrollo de la inteligencia artificial y reforzar la supervisión independiente.
Empleados de Faculty, división especializada en IA de Accenture, podrán integrarse en Anthropic con acceso similar al de trabajadores internos. Su misión incluirá evaluar medidas de seguridad, realizar pruebas de penetración sobre los modelos y determinar si los sistemas mantienen comportamientos alineados con valores humanos.
No te pierdas: ¿Avanza la IA demasiado rápido? Anthropic propone una forma de medirlo
¿Qué hará Accenture dentro de Anthropic para supervisar sus modelos de IA?
La participación de Accenture busca permitir que especialistas externos examinen directamente cómo se desarrollan y protegen los modelos, en lugar de depender exclusivamente de evaluaciones realizadas por la propia compañía.
Anthropic aclaró que el acuerdo no transfiere su responsabilidad sobre la seguridad. La colaboración tampoco será exclusiva: la empresa mantiene conversaciones con la organización de investigación METR y otros posibles evaluadores.
Anthropic y Accenture ya habían acordado invertir conjuntamente al menos $1,000 millones durante cinco años para desarrollar capacidades relacionadas con IA. Para esta iniciativa de evaluación, sin embargo, Anthropic financiará directamente el trabajo de Accenture mientras no exista un mecanismo colectivo o gubernamental de financiación.
No te pierdas: “La IA podría matarnos a todos”: Renuncia a Anthropic y desata ola de temor sobre la inteligencia artificial
¿Por qué Anthropic incorpora supervisión externa mientras acelera sus inversiones en IA?
La medida corresponde al primer componente del plan de tres pasos presentado por Amodei para controlar la velocidad con que avanzan los modelos más potentes. Su propuesta contempla permitir que evaluadores independientes operen dentro de los laboratorios y puedan verificar prácticas de seguridad e incidentes.
El movimiento adquiere relevancia económica porque Anthropic compite directamente con OpenAI y otras compañías que destinan miles de millones de dólares a modelos, chips y centros de datos. Una desaceleración coordinada podría modificar calendarios de inversión y lanzamiento en una industria donde llegar primero representa una importante ventaja comercial.
Anthropic sostiene que la supervisión externa puede reducir la distancia entre lo que conocen los laboratorios y lo que puede verificar la sociedad. El desafío será demostrar que evaluadores financiados inicialmente por la propia empresa cuentan con suficiente independencia y acceso para detectar problemas antes de que modelos más capaces lleguen al mercado.
Da clic aquí y recibe sin costo el mejor análisis económico de Comercio TV directamente en tu bandeja de entrada
