Los líderes de Nvidia, OpenAI y Anthropic expusieron diferentes posiciones sobre seguridad y velocidad en el desarrollo de inteligencia artificial durante Dreamforce, la conferencia anual de Salesforce en San Francisco.
Dario Amodei, CEO de Anthropic, defendió moderar el ritmo de desarrollo después de proponer un plan para frenar el crecimiento de las capacidades de los modelos sin perjudicar la competitividad empresarial ni el liderazgo estadounidense en IA.
Su propuesta recibió respaldo de figuras como Sam Altman, Elon Musk y Demis Hassabis, después de nuevas advertencias de investigadores sobre los posibles riesgos asociados con sistemas cada vez más avanzados.
No te pierdas: Sam Altman pide reglas comunes para la IA y advierte: “Podríamos perder el control” del futuro
¿Por qué Jensen Huang rechaza desacelerar el desarrollo de la inteligencia artificial?
El CEO de Nvidia sostiene que desarrollar IA rápidamente y mantener estándares de seguridad no son objetivos incompatibles. También considera que las fuerzas del mercado ya imponen controles y que la industria no necesita nuevas regulaciones para obligarla a desacelerar.
“Es una falsa dicotomía”, declaró públicamente Huang al referirse a velocidad y seguridad.
Huang considera que cada desarrollador debe evaluar responsablemente sus productos y detenerse cuando detecte riesgos. “Corran tan rápido como puedan”, señaló, aunque recomendó hacer una pausa cuando una compañía considere que su tecnología podría resultar insegura.
La discusión tiene implicaciones para Nvidia, cuyos chips son fundamentales para entrenar y ejecutar modelos de IA. Una desaceleración de las inversiones podría repercutir en la demanda de semiconductores, centros de datos e infraestructura tecnológica.
No te pierdas: Trump rechaza más regulación para la IA y arremete contra Dario Amodei por pedir frenar su desarrollo
¿Qué plantean Sam Altman y Dario Amodei sobre la seguridad de la IA?
Altman adoptó una posición más cautelosa. El CEO de OpenAI sostuvo que, ante la creciente potencia de los modelos existentes, la seguridad y la supervisión deben tener prioridad sobre la expansión de capacidades.
“No debería haber ninguna salvedad al respecto”, afirmó públicamente Altman al hablar sobre la responsabilidad de las empresas independientemente de las acciones de sus competidores.
Amodei, por su parte, propone desacelerar de manera más explícita el desarrollo de modelos avanzados.
No te pierdas: Alarmas en el sector de la inteligencia artificial: Líderes tecnológicos se muestran preocupados
El debate ocurre mientras estas compañías profundizan sus negocios. Salesforce y Nvidia anunciaron un modelo de razonamiento para Agentforce basado en Nemotron, mientras Salesforce amplió su alianza con Anthropic mediante “Claudeforce”.
Da clic aquí y recibe sin costo el mejor análisis económico de Comercio TV directamente en tu bandeja de entrada
