El debate sobre los límites de la inteligencia artificial volvió a encenderse esta semana, esta vez en el corazón de las principales plataformas móviles del mundo, donde la promesa de innovación convive con crecientes preocupaciones sobre abuso, control y responsabilidad tecnológica.
No te pierdas: El S&P 500 rompe la barrera histórica de los 7,000 puntos en medio de la expectativa por la FED
Un informe del Tech Transparency Project (TTP) reveló que las tiendas de aplicaciones de Apple y Google alojaban decenas de apps capaces de tomar fotos de personas vestidas y, mediante IA, generar imágenes falsas de ellas desnudas. La investigación identificó 55 aplicaciones de este tipo en Google Play y 47 en la App Store de Apple durante una revisión realizada en enero. “Ambas compañías dicen estar dedicadas a la seguridad de los usuarios, pero albergan una colección de aplicaciones que pueden convertir una foto inocua de una mujer en una imagen abusiva y sexualizada”, señaló el organismo en su reporte.
Tras ser contactada por distintos medios de comunicación estadounidenses, Apple informó que eliminó 28 aplicaciones mencionadas en el informe y advirtió a otros desarrolladores sobre posibles sanciones. No obstante, el propio TTP indicó que solo 24 habrían sido retiradas inicialmente, y dos de ellas volvieron a estar disponibles tras ajustes en nuevas versiones. Google, por su parte, confirmó la suspensión de varias apps por violar sus políticas, aunque evitó detallar cuántas, alegando que la investigación seguía en curso.
No te pierdas: Amazon anuncia el despido de 16,000 empleados corporativos: Esta es la razón
El alcance del problema y las alertas regulatorias
El informe surge luego de la polémica que enfrentó xAI, la empresa de Elon Musk, cuando su herramienta Grok generó imágenes sexualizadas de mujeres y menores. “Está muy claro: estas no son solo aplicaciones para cambiar de ropa”, afirmó Katie Paul, directora del TTP. “Definitivamente fueron diseñadas para la sexualización no consensuada de personas”.
En septiembre más de 80 mujeres en Minnesota fueron víctimas de deepfakes sexuales creados sin su consentimiento, sin que se configurara un delito evidente. Según el nuevo informe, estas aplicaciones acumulan más de 700 millones de descargas globales y generaron $117 millones en ingresos, de los cuales Apple y Google reciben una parte.
Catorce de las apps analizadas estaban basadas en China, lo que añade un riesgo adicional. “Las leyes de retención de datos de China implican que el gobierno chino tiene derecho a acceder a los datos”, advirtió Paul. En paralelo, la Comisión Europea abrió una investigación contra X, mientras fiscales generales y senadores demócratas presionan para que estas plataformas refuercen sus controles.
El episodio deja al descubierto la brecha entre las políticas declaradas y su aplicación real, en un momento en que la IA avanza más rápido que los mecanismos para contener sus abusos.
Mira la señal en vivo de Comercio TV aquí y mantente al día en la actualidad financiera
