Elon Musk, Steve Wozniak (co-fundador de Apple), incluso líderes de la industria de inteligencia artificial como el director ejecutivo de Stability AI e investigadores de DeepMind, junto a más de 1,000 personas, firmaron una carta abierta del Future of Life Institute en la que solicitan una pausa de seis meses en el entrenamiento de los avanzados sistemas de IA, argumentando que se trata de una potencial amenaza para la humanidad.
Afirman que con esta tecnología la raza humana se encuentra en “una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden comprender, predecir o controlar de forma fiable”.
Se instó a los laboratorios de IA a dejar de entrenar modelos más potentes que ChatGPT-4, la última versión del software de “lenguaje grande” desarrollado por la startup estadounidense OpenAI.
“Los sistemas de IA contemporáneos ahora se están volviendo competitivos para los humanos en tareas generales, y debemos preguntarnos: ¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedad?”, se lee en la carta.
“¿Deberíamos automatizar todos los trabajos, incluidos los de cumplimiento? ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes, obsoletas y reemplazarnos? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización?”.
La carta agregó: “Dichas decisiones no deben delegarse en líderes tecnológicos no elegidos”.
El Future of Life Institute es una organización sin fines de lucro con sede en Cambridge, Massachusetts, que lucha por el desarrollo responsable y ético de la inteligencia artificial. Sus fundadores incluyen al cosmólogo del MIT Max Tegmark y al cofundador de Skype Jaan Tallinn.
La organización ha conseguido previamente que Musk y el laboratorio de IA DeepMind, propiedad de Google, prometan nunca desarrollar sistemas letales de armas autónomas.
“Si tal pausa no se puede promulgar rápidamente, los gobiernos deberían intervenir e instituir una moratoria”, se plantea en el documento.
ChatGPT, el chatbot viral de IA, ha sorprendido a los investigadores con su capacidad para producir respuestas similares a las humanas ante las peticiones de los usuarios.
En enero, ChatGPT había acumulado 100 millones de usuarios activos mensuales solo dos meses después de su lanzamiento, lo que la convirtió en la aplicación para consumidores de más rápido crecimiento en la historia.
“La investigación y el desarrollo de IA deben reenfocarse en hacer que los sistemas potentes y de última generación de hoy en día sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales”, manifestaron los firmantes de la carta.
