Según sus condiciones de servicio, Rogue prohíbe el uso de imágenes o videos generados por los usuarios para el entrenamiento de modelos, y prohíbe estrictamente la creación o distribución de deepfakes no consentidos, material de abuso sexual infantil, representaciones no autorizadas de figuras públicas y otras imágenes ilegales o abusivas.
Con el fin de evitar que personas malintencionadas utilicen la plataforma para crear este tipo de contenido prohibido, Rogue cuenta con tres niveles de moderación humana. El primero se sitúa en el nivel de la solicitud (prompt), donde se buscan palabras clave y se marcan para una posible suspensión de la cuenta si se determina que existe una clara intención ilegal. La siguiente capa se encuentra dentro del sistema y se denomina "capa de intención". Los usuarios malintencionados podrían intentar burlar a los moderadores escribiendo con un ligero error ortográfico el nombre de un actor real para generar una imagen deepfake, por lo que los moderadores releen la solicitud para evaluar la intención del usuario. La última capa analiza la imagen o el video creado antes de que se comparta con el usuario. Por ejemplo, si un usuario introduce la indicación "cantante rubia famosa" y la imagen generada se parece a Taylor Swift, la creación no se enviará.
El Sr. Rogue explica a WIRED que él y su socio cofundador, ambos productores de cine, han decidido no revelar sus nombres debido al "riesgo real" que conlleva que se les asocie con la creación de contenidos de temática erótica. "Dado el clima actual en Hollywood y al trabajar en el ámbito de la IA, hay que tener mucho cuidado", indics el Sr. Rogue. WIRED verificó que la pareja de fundadores efectivamente trabaja en Hollywood, produciendo películas con una recaudación total en taquilla de más de 2,000 millones de dólares.
las huelgas de Hollywood de 2023, en las que los sindicatos lucharon por garantizar medidas de protección frente a la reproducción digital no autorizada de la imagen de los actores que aparecen en cine y televisión, los principales estudios han estado evaluando formas de incorporar la IA a las producciones con el objetivo de reducir gastos.Esta tensión ha llevado a que la IA se considere algo negativo y ha generado un estigma a su alrededor. Los cofundadores de Rogue son conscientes de ello, pero no quieren renunciar al potencial creativo de esta tecnología.
La realidad es que la IA ya no es una posibilidad lejana para Hollywood
Las computadoras ya están trabajando entre bastidores para animar los storyboards de preproducción y crear un proceso de edición más eficiente, como el pulido de los efectos visuales y el audio. Netflix reveló recientemente que 300 de sus series utilizan IA generativa. La integración se está produciendo a una escala mayor de lo que muchos espectadores creen, según declaró a principios de este mes a WIRED Matt Belloni, socio fundador de Puck y especialista en el sector de Hollywood.
Desde el año 2000, las escenas de sexo en las películas han disminuido un 40%, según un estudio de 2023 realizado por The Economist. Pero los estrenos recientes sugieren que la industria podría estar dando un giro. "Las películas vuelven a ser provocativas", declaró a BBC un crítico de cine especializado en thrillers eróticos. Según una encuesta reciente de la empresa de investigación sobre entretenimiento Luminate, a pesar de la reacción generalizada en contra de la IA en Hollywood, un tercio de los consumidores se muestra ahora indiferente ante el uso de la IA en la producción en todas las áreas, excepto en lo que se refiere al guion y la interpretación.
Rogue apuesta por que la adopción continuada de herramientas de IA, especialmente aquellas centradas en ofrecer efectos visuales de alta calidad, podría potenciar enormemente esa experiencia para los espectadores hasta el punto de que la calidad de la interpretación de un actor no venga determinada por si se trata de IA o no, afirma el cofundador.
"Estamos tan acostumbrados a que, al no haber censura, solo se obtenga una parte de la calidad. En este momento se está perdiendo gran parte de la esencia artística".
Artículo originalmente publicado enWIRED.comAdaptado por Alondra Flores.