O gabinete federal da Alemanha aprovou em 7 de outubro um projeto de lei que ampliaria a proteção penal contra imagens íntimas sem consentimento, incluindo imagens sexualizadas geradas por computador de pessoas identificáveis. A proposta também abrange formas de abuso digital que não envolvem IA e criaria novos meios, sob supervisão judicial, para as pessoas solicitarem informações sobre usuários anônimos e interromperem violações graves de seus direitos na internet. O texto agora segue para análise do Bundestag. Nenhuma das mudanças propostas é lei ainda.

A distinção entre criar uma imagem e compartilhá-la é central no projeto. A substituição proposta para o artigo 184k do Código Penal abrangeria a criação não autorizada de certas imagens íntimas reais ou sua disponibilização a outra pessoa, além de imagens geradas por computador que pareçam mostrar uma pessoa específica em atividade sexual ou com determinadas partes do corpo expostas. O texto inclui o compartilhamento privado com uma pessoa e a circulação mais ampla. A redação mira conteúdo íntimo definido; não é uma proibição geral da criação de deepfakes.

A grande mudança

O gabinete levou um conjunto de propostas penais e civis à etapa parlamentar. A regra sobre imagens trata explicitamente de representações sexualizadas fabricadas, além de gravações íntimas reais. Outras regras abordam imagens voyeurísticas, uso indevido de identidade e vigilância digital. Para quem busca reparação civil, o projeto acrescenta procedimentos que exigem ordem judicial antes da divulgação de certas informações de usuários ou da suspensão de uma conta em rede social. O efeito jurídico dependerá do que o Parlamento aprovar e de quando uma eventual lei entrar em vigor.

O que as propostas penais abrangem

O artigo 184k proposto também alcançaria imagens não autorizadas de atividade sexual ou de determinadas partes do corpo expostas. Inclui gravações das partes abrangidas mesmo quando cobertas por roupas, se o enquadramento tiver claramente o objetivo de sexualizá-las. A regra é relevante para filmagens voyeurísticas em locais como saunas ou praias de nudismo abertas ao público. As normas dizem respeito a gravações de pessoas e a imagens geradas; o alcance do projeto não depende do uso de IA.

O projeto do gabinete acrescenta uma regra separada para acessar, obter ou possuir sem autorização uma gravação da imagem de um estupro real cometido contra outra pessoa. Também propõe criminalizar a disponibilização a outra pessoa de uma representação criada ou alterada por computador quando ela parecer falsamente mostrar um acontecimento real envolvendo alguém e puder prejudicar gravemente sua reputação. Esse crime trata da distribuição de conteúdo enganoso, não apenas de sua criação. Outra infração proposta aborda a distribuição de conteúdo prejudicial à reputação com falsa identidade de uma pessoa real. O conteúdo não precisa ser gerado por IA.

A regra sobre vigilância abrangeria o monitoramento não autorizado, repetido ou contínuo, da localização ou atividade de alguém com tecnologia da informação ou comunicação, quando puder causar dano substancial. Um rastreador GPS é um dos exemplos dados pelo governo. As propostas estão em seções distintas do projeto e têm condições próprias; chamá-lo apenas de “lei dos deepfakes” deixa de fora grande parte do pacote.

Ordens judiciais e próximos passos

Na esfera civil, o projeto permitiria que uma pessoa interessada em apresentar uma ação pedisse ao tribunal que ordenasse a divulgação de dados mantidos por um serviço on-line relevante ou por um provedor de acesso à internet. A proposta lista informações como nome, endereço, e-mail armazenados e, quando disponíveis, dados de protocolo de internet. Também prevê ordens judiciais para preservar provas enquanto um pedido de divulgação é analisado. Em casos graves, um juiz poderia determinar a suspensão temporária de uma conta em rede social se isso fosse necessário para evitar novas violações; outra ordem poderia exigir a remoção de conteúdo ilegal. São medidas condicionais, não banimentos automáticos de contas nem acesso irrestrito aos dados dos usuários.

O Bundestag agora precisa debater o projeto do governo e pode alterá-lo. O texto do gabinete deixa em aberto a data principal de início da vigência e especifica o primeiro dia de um trimestre após a promulgação. Portanto, ainda não há uma data definida para a aplicação dessas proteções propostas. A Associação Alemã de Juízes alertou, segundo reportagem da Tagesschau, que o quadro de pessoal do Judiciário afetará a aplicação.

Fontes e leituras adicionais