No si es mi hija: usuario de porno ‘deepfake’ lo ve sin dudarlo, pero lo denunciaría si la víctima fuera de su entorno | Tecnología

Aún no era primer ministro italiano, pero ya era popular cuando hace cuatro años se publicó un vídeo pornográfico falso en el que aparecía el rostro de Giorgia Meloni sobre el cuerpo de otra mujer. El 2 de julio será llamada a declarar en un proceso contra los implicados, un hombre de 40 años, que creó las imágenes, y su padre, de 73, que proporcionó la línea para publicarlas. Les pide 100.000 euros como «medida simbólica ejemplar» que «contribuye a la protección de las mujeres víctimas de este tipo de delitos», según la abogada Maria Giulia Marongiu. EL profundo, materiales audiovisuales falsos hiperrealistas, se han duplicado cada año desde que se registró la primera denuncia por desnudez no consentida en 2017 y poco ha cambiado desde entonces. Una encuesta de Home Security Heroes (HSH) confirma un panorama ya identificado: el 98% es pornografía y 99 de las víctimas de 100 son mujeres y casi todas son populares.

El cambio más radical fue tecnológico. Si antes se requerían conocimientos de informática y edición de imágenes, ahora, una herramienta de cada tres disponibles permite realizar creaciones falsas en menos de 25 minutos y sin coste alguno. Google, que sirve de indicador como motor de búsqueda predominante, ha eliminado 8 mil millones de enlaces según su último informe de transparencia. Miles de ellos son páginas de profundo, concentrado en dos portales, según la base de datos Lumen de la Universidad de Harvard. Las empresas tecnológicas, obligadas por las nuevas leyes, están empezando a tomar medidas.

La accesibilidad de las herramientas (60% online y 40% descargables) combina las motivaciones de los abusadores, que se convencen de hacerlo sólo por curiosidad, la atracción hacia personajes famosos, como en el caso de la cantante Taylor Swift, y la visualización de una fantasía, según HSH. Esta percepción infantil hace que el 74% de los usuarios (según una encuesta realizada a 1.522 participantes masculinos) no se sienta culpable.

Pero esta supuesta ingenuidad es tan falsa como el material que consumen. «Es un problema de violencia sexista», afirma Adam Dodge, fundador de EndTAB, una organización sin fines de lucro para la educación tecnológica en el Instituto Tecnológico de Massachusetts (MIT). La Directiva de la UE sobre la lucha contra la violencia contra las mujeres incluye estas creaciones como agresiones.

Y la percepción de este ataque es tan clara que ni siquiera la gran mayoría de los internautas profundoSegún el estudio, los HSH, demostrando hipocresía, los denunciarían si la víctima fuera una persona cercana a ellos (73%) y se sentirían «conmocionados e indignados» (68%) ante la violación de su privacidad.

El crecimiento de la desnudez no consentida se ha producido a pesar de leyes que condenan estas prácticas y protegen a las víctimas de la supuesta libertad de expresión ejercida por los creadores de contenidos. “Según el artículo 18, párrafo 1, de la Constitución, los derechos al honor, a la intimidad personal y familiar, a la propia imagen se consideran fundamentales (…) El artículo 20, párrafo 4, establece que el respeto de estos derechos constituye un límite a la ejercicio de la libertad de expresión”. Así comienza la Ley Orgánica 1/1982 que regula esta materia.

“Desde el punto de vista teórico, existe un marco de referencia posible”, explica Ricard Martínez, director de la Cátedra de Privacidad y Transformación Digital de la Universitat de València. En Estados Unidos, la mayoría de las quejas se enmarcan en la Ley de Derechos de Autor del Milenio Digital (DMCA) de 1998.

“Cuando se toma la imagen real de una persona, pero la modifica con cualquier intención, hay una conducta instrumental que consiste en tratar su imagen sin consentimiento con un fin ilegítimo”, explica Martínez. “Otra cosa”, aclara, “es un comediante que genera una imagen con espíritu satírico y en un contexto claro”.

Pero estas reglas han demostrado ser insuficientes, razón por la cual Europa aprobó leyes de mercados y servicios digitales en noviembre de 2022 (que entraron en vigor en mayo pasado) para “proteger los derechos fundamentales de los usuarios y establecer igualdad de condiciones para las empresas”. . Estas regulaciones exigen que las grandes empresas colaboren en la evaluación de riesgos, identificación, notificación y eliminación de enlaces sospechosos.

“Hay dos sujetos importantes: el que ofrece la herramienta, que siempre dirá que su aplicación no tenía como objetivo delinquir, y el que ofrece la creación, el que actúa como portavoz. La ley impone a estos últimos deberes de colaboración más intensos”, añade Martínez.

Google admite sus nuevas responsabilidades y, en una breve respuesta escrita al aumento de denuncias, declara: “Tenemos políticas contra la pornografía profundo no consensuado, por lo que las personas pueden eliminar este tipo de contenido que incluye su imagen de los resultados de búsqueda. Y estamos desarrollando activamente salvaguardias adicionales para ayudar a los afectados. Además, contamos con un proceso de eliminación que permite a los titulares de derechos proteger su trabajo en Internet”.

Meta también está en esta línea. Nick Clegg, como presidente de asuntos globales, anunció el 6 de febrero: “Aplicamos etiquetas de Imaginado con inteligencia artificial a imágenes fotorrealistas creadas con nuestra función, pero también queremos poder hacerlo con contenido creado con herramientas de otras empresas». Se refiere a Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock mientras implementan sus planes para agregar metadatos a las imágenes creadas por sus herramientas.

Las grandes tecnológicas se suman así a la cruzada legal contra profundo y la reciente aprobación de la ley europea sobre inteligencia artificial, que exige un etiquetado inequívoco de las creaciones desarrolladas con esta tecnología. El gobierno de Estados Unidos también está avanzando en esta dirección. “Ya no se puede argumentar que el uso del sistema o sus resultados responden al ejercicio de la libertad de expresión y de la libertad de creación”, celebra el catedrático valenciano.

“La preocupación es común y estamos empezando a ver una confluencia de intereses de dos culturas jurídicas diferentes. El mensaje está empezando a llegar a estas empresas de que no todo está bien, que no pueden lavarse las manos y decir «oye, sólo soy una plataforma y no puedo ser responsable de todo». Los proveedores de servicios de la sociedad de la información influyen decisivamente en la viralización de los contenidos mostrados. No soy un operador neutral ni un simple contenedor. Son parte de la operación, del juego”, concluye Ricard Martínez.

puedes seguir La tecnología de EL PAÍS En Facebook Y X o regístrate aquí para recibir el nuestro boletín semanal.

_

Más Información