El Gobierno federal alemán aprobó el 7 de octubre un proyecto de ley que ampliaría la protección penal frente a imágenes íntimas no consentidas, incluidas imágenes sexualizadas generadas por ordenador de personas identificables. La propuesta también abarca formas de abuso digital que no implican IA y ofrecería nuevas vías, bajo supervisión judicial, para que las personas soliciten información sobre usuarios anónimos y frenen violaciones graves de sus derechos en internet. Ahora pasa al Bundestag para su examen. Ninguno de los cambios propuestos es todavía ley.

La distinción entre crear una imagen y compartirla es fundamental en el proyecto. La sustitución propuesta del artículo 184k del Código Penal abarcaría la creación no autorizada, o la puesta a disposición de otra persona, de ciertas imágenes íntimas reales y de imágenes generadas por ordenador que parezcan mostrar a una persona concreta realizando una actividad sexual o con determinadas partes del cuerpo desnudas. El texto cubre tanto el envío privado a una sola persona como una difusión más amplia. Su redacción se dirige a contenido íntimo definido; no es una prohibición general de crear deepfakes.

El gran cambio

El Gobierno ha llevado un paquete de propuestas penales y civiles a la fase parlamentaria. La disposición sobre imágenes aborda expresamente las representaciones sexualizadas fabricadas junto con las grabaciones íntimas reales. Otras disposiciones tratan las imágenes voyeuristas, el uso indebido de identidad y la vigilancia digital. Para quienes buscan una reparación civil, el proyecto añade procedimientos que exigen una orden judicial antes de revelar ciertos datos de usuarios o suspender una cuenta en redes sociales. El efecto jurídico dependerá de lo que apruebe finalmente el Parlamento y de cuándo entre en vigor cualquier ley resultante.

Qué abarcan las propuestas penales

El artículo 184k propuesto también alcanzaría imágenes no autorizadas de actividad sexual o de determinadas partes del cuerpo desnudas. Incluye grabaciones de las partes del cuerpo contempladas incluso cuando están cubiertas, si el encuadre tiene claramente el propósito de sexualizarlas. La disposición es pertinente para grabaciones voyeuristas en lugares como saunas o playas nudistas de acceso público. Estas normas se refieren tanto a grabaciones de personas como a imágenes generadas; el alcance del proyecto no depende del uso de IA.

El proyecto del Gobierno añade una disposición independiente sobre acceder, obtener o poseer sin autorización una grabación de la violación real de otra persona. También propone tipificar como delito poner a disposición de otra persona una representación creada o alterada por ordenador que parezca falsamente mostrar un hecho real en el que participa una persona y que pueda dañar gravemente su reputación. Este último delito se refiere a la difusión de contenido engañoso, no solo a su creación. Otro delito propuesto aborda la difusión de contenido perjudicial para la reputación mientras se suplanta la identidad de una persona real. No exige que el contenido se haya generado con IA.

La disposición sobre vigilancia abarcaría la observación no autorizada, repetida o continua, de la ubicación o actividad de alguien mediante tecnologías de la información o la comunicación, cuando pueda causar un daño considerable. El Gobierno cita como ejemplo un rastreador GPS. Estas propuestas figuran en distintas secciones del proyecto y tienen condiciones diferentes; llamarlo simplemente “ley de deepfakes” deja fuera buena parte del paquete.

Órdenes judiciales y próximos pasos

En el ámbito civil, el proyecto permitiría que quien pretenda presentar una reclamación solicite al tribunal que ordene revelar datos en poder de un servicio en línea pertinente o de un proveedor de acceso a internet. La propuesta enumera datos como el nombre almacenado, la dirección, el correo electrónico y, cuando esté disponible, la dirección de protocolo de internet. También plantea órdenes judiciales para conservar pruebas mientras se resuelve una solicitud de revelación. En casos graves, un juez podría ordenar la suspensión temporal de una cuenta de una red social si fuera necesario para impedir nuevas vulneraciones; otra orden judicial podría exigir la retirada de contenido ilícito. Son medidas condicionadas, no bloqueos automáticos de cuentas ni acceso abierto a los datos de usuarios.

El Bundestag debe debatir ahora el proyecto del Gobierno y puede modificarlo. El texto del gabinete deja pendiente la fecha principal de entrada en vigor y especifica el primer día de un trimestre posterior a la promulgación. Por tanto, aún no hay una fecha definida para la aplicación de estas protecciones propuestas. La Asociación Alemana de Jueces ha advertido, según informó Tagesschau, de que la dotación de personal judicial afectará a la aplicación.

Fuentes y lecturas adicionales