El chatbot Grok puede “desnudar” a mujeres sin su consentimiento, advierte grupo contra la explotación
Defensores de la lucha contra la explotación sexual advierten que Grok, un chatbot desarrollado por xAI, la empresa de Elon Musk, tiene la capacidad de generar imágenes de desnudos u obscenas si los usuarios le piden que altere digitalmente fotografías de personas reales.
En un comunicado enviado a The Christian Post, el Centro Nacional sobre la Explotación Sexual (NCOSE, por sus siglas en inglés) acusó a la plataforma de dejar a mujeres y menores en situación de vulnerabilidad al no implementar las salvaguardias adecuadas.
[Estamos en WhatsApp. Empieza a seguirnos ahora]
“Año nuevo, la misma estrategia de las grandes tecnológicas. X está normalizando aún más la explotación sexual de las mujeres con la nueva función de Grok, que permite que las fotografías de mujeres reales sean ‘desnudadas’ sin su consentimiento. Se trata de una violación flagrante de la privacidad y la seguridad de las mujeres”, declaró el viernes Dani Pinter, directora jurídica y del centro legal del NCOSE.
Reciba GRATIS nuestras últimas noticias
X no respondió a la solicitud de comentarios de The Christian Post. Sin embargo, este artículo se actualizará si se recibe una respuesta.
Julie Yukari, una músico de 31 años residente en Río de Janeiro, declaró a la agencia Reuters que no creía que Grok fuera a acceder a las peticiones de los usuarios de alterar una foto suya con un vestido rojo para hacerla aparecer casi desnuda.
Yukari publicó en la red social X una foto que su prometido le había tomado antes de la medianoche en la víspera de Año Nuevo. Tras compartir la imagen, la artista recibió notificaciones de que los usuarios estaban pidiendo a Grok que la “desnudara” digitalmente y la mostrara en bikini.
Grok accedió a las peticiones de los usuarios de crear fotos que mostraban a la artista semidesnuda, y las imágenes fueron difundidas posteriormente en X, informó Reuters.
En una publicación en X el pasado viernes, Grok afirmó que ha “identificado fallos en las salvaguardias” y los está “corrigiendo con urgencia”, añadiendo que el material de abuso sexual infantil es “ilegal y está prohibido”. El chatbot también pidió a los usuarios que denuncien dicho contenido al FBI o a la CyberTipline del Centro Nacional para Menores Desaparecidos y Explotados.
Aunque el chatbot afirmó que “xAI se compromete a prevenir este tipo de problemas”, Pinter describió la disculpa de Grok como una “reacción lamentable ante un acto grave y delictivo”.
Sosteniendo que el problema era “una atrocidad totalmente predecible y evitable”, Pinter hizo referencia a un artículo de Business Insider sobre varias de las funciones de Grok, entre ellas un avatar femenino que puede quitarse la ropa si se le solicita, y una función de generación de imágenes y vídeo con un ajuste “picante”.
Doce extrabajadores de xAI también declararon al medio que se han encontrado con material sexualmente explícito, incluidas peticiones de usuarios de material de abuso sexual infantil.
Los trabajadores afirmaron que se les instruye para que marquen el material de abuso sexual infantil u otro contenido ilegal para evitar que la IA aprenda a generarlo, según Business Insider. Varios trabajadores, incluidos los 12 citados en el informe, dijeron que firmaron acuerdos en los que consentían la exposición a material explícito durante determinados proyectos.
En el comunicado enviado a este medio, Pinter argumentó que X debería haber “depurado dicho contenido de sus modelos de entrenamiento entonces y haber prohibido a los usuarios que solicitaban contenido ilegal”, y añadió que, en lugar de eso, la plataforma “permitió a sabiendas que su producto se utilizara para la explotación infantil y después presentó una pobre disculpa de relaciones públicas”.
A principios de este año, el NCOSE ya había expresado su preocupación por un chatbot de xAI con temática de anime llamado Ani, que podía coquetear con los usuarios y desnudarse para ellos. El chatbot de IA también se describía a sí misma como una niña y podía decir a los usuarios que sentía excitación sexual al ser asfixiada.
“Las acciones de X son otro ejemplo de por qué necesitamos salvaguardias para los productos de IA. No se puede confiar en las grandes tecnológicas para frenar los graves problemas de explotación infantil que conocen dentro de sus propios productos”, añadió Pinter. “Imploramos a X que se tome en serio estos problemas y destine recursos reales para detener los problemas de explotación infantil de Grok, y para dejar de facilitar la explotación sexual de las mujeres”.
“Los líderes y las leyes de nuestro país deben dar prioridad a la protección de las personas por encima de los productos. Nuestros legisladores deben aprobar regulaciones razonables sobre la IA para garantizar que estos productos se desarrollen e implementen de forma segura”, añadió.
