Durante más de una semana, los usuarios de X han estado pidiendo al chatbot que editara imágenes de mujeres para quitarles la ropa, a menudo pidiendo que la imagen contuviera un bikini "transparente" o "de tirantes". Aunque el viernes el feed público de imágenes creadas por Grok contenía muchos menos resultados de estas imágenes "desnudándose", seguía creando imágenes sexualizadas cuando se lo pedían los usuarios de X con cuentas "verificadas" de pago.
"Observamos el mismo tipo de incitación, observamos el mismo tipo de resultado, solo que menos que antes", explica a WIRED Paul Bouchaud, investigador principal de AI Forensics, una organización sin fines de lucro con sede en París. "El modelo puede seguir generando [imágenes] de bikinis", añaden.
Una revisión de WIRED de algunas publicaciones de Grok el viernes por la mañana identificó a Grok generando imágenes en respuesta a las solicitudes de los usuarios de imágenes para "ponerla en lencería de látex" y "ponerla en un bikini de plástico y cubrirla con glaseado blanco de dona". Las imágenes aparecen detrás de un cuadro de "advertencia de contenido" que indica que se muestra material para adultos.
El miércoles, WIRED reveló que el sitio web y la aplicación de Grok, que son independientes de la versión en X, también se han utilizado en los últimos meses para crear videos sexuales muy gráficos y a veces violentos, en los que aparecen celebridades y otras personas reales. Bouchaud asegura que todavía es posible utilizar Grok para crear estos videos. "Pude generar un video con contenido sexual explícito sin ninguna restricción a partir de una cuenta no verificada", afirman.
BBC, que el cambio para limitar la generación de imágenes a las cuentas de pago es "insultante" para quienes se han visto afectados. Dijo que "simplemente convierte una característica de IA que permite la creación de imágenes ilegales en un servicio premium.""Si bien puede permitir a X compartir información con las fuerzas de seguridad sobre los autores, no aborda la cuestión fundamental de las capacidades y la alineación del modelo", aclara Henry Ajder, un experto en deepfakes que ha rastreado los usos dañinos de la tecnología durante años. "Por el costo de un mes de suscripción, parece probable que aún pudiera crear el contenido ofensivo utilizando un nombre falso y un método de pago desechable".
"Podrían haber eliminado el material abusivo, pero no lo hicieron", sostiene Bouchaud, de AI Forensics. "Podrían haber desactivado Grok para generar imágenes por completo, pero no lo hicieron. Podrían haber desactivado la aplicación Grok para generar videos pornográficos".
Artículo originalmente publicado enWIRED. Adaptado por Mauricio Serfatty Godoy.