Um verdadeiro pesadelo: desconhecidos roubam fotos nuas e de sexo da nuvem privada de uma jovem alemã e as divulgam em sites pornográficos. E o pior: o conteúdo, que mostra ela e seu parceiro, pode ser encontrado até mesmo na busca do Google, que expõem seus nomes, pois um documento de identidade também estava na pasta que foi invadida pelos criminosos.

A mulher recorre então à HateAid, uma organização sem fins lucrativos que ajuda pessoas afetadas pelo ódio online e pela violência digital. Com a ajuda da organização, ela entra em contato com muitos dos sites correspondentes e também denuncia ao Google mais de 2.000 URLs que podem ser encontrados por meio da pesquisa de imagens do mecanismo de busca.

Embora o Google geralmente remova os resultados de pesquisa correspondentes, as imagens e os vídeos continuam a aparecer na internet e nos resultados de pesquisa da busca da plataforma, assim como deepfakes, ou seja, imagens geradas ou manipuladas com inteligência artificial (IA).

O caso levanta algumas questões fundamentais: até onde deve ir a proteção de dados na internet? Quais são os cenários mais ameaçadores para os usuários e como lidar com eles?

Imagens nunca destinadas à publicação

A vítima, que prefere se manter anônima na reportagem e é chamada de Laura no site HateAid, descobriu por acaso em 2023 que seus arquivos haviam sido roubados ao pesquisar seu próprio nome no Google.

Em entrevista à revista alemã Der Spiegel, ela disse que, ao encontrar na internet fotos e vídeos íntimos que nunca foram destinados à publicação, sentiu-se quase como se tivesse sido violada. O incidente alterou toda a vida de Laura: ela se mudou, trocou de emprego e passou a sofrer de transtorno de estresse pós-traumático.

Depois de não ter conseguido, fora dos tribunais, que o Google retirasse permanentemente as imagens da pesquisa, Laura entrou com uma ação contra a empresa na Irlanda. Ela é apoiada pela  HateAid.

"Nós arcaremos com todos os custos do processo e também com todos os riscos futuros relacionados a esse assunto, pois pouquíssimas pessoas afetadas realmente podem se imaginar entrando com uma ação contra uma empresa como o Google por conta própria", explica a diretora executiva da organização, Josephine Ballon.

Ela espera que a decisão esclareça se os mecanismos de busca são legalmente obrigados a remover permanentemente dos resultados de busca uma imagem que já tenha sido denunciada, mesmo que ela seja republicada posteriormente em outro site.

O que se pode exigir do Google?

A especialista em proteção de dados e informática Marit Hansen afirma à DW que "há onze anos, o Tribunal Europeu de Justiça fez história na área da proteção de dados com a decisão sobre o direito ao esquecimento. O caso atual pretende dar continuidade a isso".

O direito ao esquecimento permite que uma pessoa exija a eliminação dos seus dados pessoais, desde que sejam cumpridas algumas condições.

Hansen, responsável pelo setor de proteção de dados do estado de Schleswig-Holstein, no norte da Alemanha, afirma que, de acordo com o Regulamento Geral sobre a Proteção de Dados (RGPD) da União Europeia (UE) e o direito fundamental à proteção de dados, o uso dos dados pessoais deve permanecer controlável.

E que, segundo ela, portanto, "não é surpresa que isso gere obrigações para os provedores de mecanismos de busca em todo o mundo. Agora, entretanto, é preciso decidir precisamente até onde vão essas obrigações no que diz respeito às imagens". Mas será que filtrar resultados de pesquisa é tecnicamente viável? No caso de cópias exatas, em que todos os bits dos arquivos de imagem são idênticos, isso é relativamente fácil, de acordo com Hansen.

Por outro lado, segundo a especialista, a situação é mais complicada quando se trata de conteúdos "extremamente semelhantes", nos quais há pequenas diferenças em relação ao original, por exemplo, devido a cortes ou angulações diferentes e também a alterações feitas com a ajuda da IA.

"Essa questão está relacionada às possibilidades da pesquisa reversa de imagens, oferecida por vários provedores, incluindo o Google", explica Hansen.

Neste caso, as imagens são carregadas e o mecanismo de busca procura fotos similares – isso geralmente funciona, mas não é 100% confiável, pois também há muitos resultados incorretos.

Por isso, segundo a especialista, os provedores de mecanismos de busca poderiam argumentar que a precisão para a filtragem técnica de imagens praticamente idênticas ainda não é suficiente. No entanto, em princípio, plataformas como o Google deveriam ser responsabilizadas. Questionado, o Google ainda não respondeu à DW sobre o caso.

"Google lucra com a violência sexual contra as mulheres"

A HateAid vê no caso de Laura não apenas um exemplo de problemas de proteção de dados e privacidade na internet, mas também de violência sexualizada baseada em imagens contra mulheres e pessoas de gênero feminino. E do lucro que isso gera para empresas como o Google, já que "o mecanismo de busca torna o conteúdo acessível a um público amplo e lucra com os acessos", afirma Ballon.

"Principalmente mulheres e pessoas identificadas como mulheres frequentemente sofrem abuso devido ao vazamento de imagens íntimas. E também imagens e vídeos falsos são produzidos com a ajuda da inteligência artificial. Hoje em dia, teoricamente, basta uma foto de perfil do LinkedIn para que isso aconteça. Esse é um problema que afeta toda a sociedade e está crescendo. Vemos isso em nosso trabalho de aconselhamento às vítimas", explica Ballon.

Qualquer um pode sofrer

O fenômeno da violência sexual baseada em imagens é bastante conhecido, especialmente em relação a celebridades. Em 2014, por exemplo, houve um ataque hacker em grande escala a fotos privadas de artistas, predominantemente mulheres. Divulgadas online, foram nomeadas de "Celebgate".

Deepfakes de mulheres famosas como a cantora Taylor Swift ou a primeira-ministra da Itália, Giorgia Meloni, circularam pela internet. Mas o caso de Laura mostra que isso também pode acontecer com pessoas que não são figuras públicas.

Enquanto a campanha associada à ação judicial também tem como objetivo que a criação de tais deepfakes seja considerada crime, caso a pessoa retratada não tenha dado seu consentimento, o processo judicial deve obrigar o Google a proteger mais as vítimas. "Sem essa reivindicação, os afetados precisam passar a vida inteira procurando suas imagens para, então, solicitar manualmente a remoção delas. Isso é um estresse psicológico enorme que não deveria e não precisa existir", conclui Ballon.