O que fazer com uma rede social que não parece disposta a seguir o que determinam as autoridades de um país no combate a conteúdos nocivos e ilegais?

A questão está no centro de um debate desencadeado pela prisão e investigação na França do CEO do Telegram, Pavel Durov – e, mais recentemente, pela suspensão do X (antigo Twitter) no Brasil pelo ministro Alexandre de Moraes, do Supremo Tribunal Federal (STF).

Especialista em regulação de plataformas no think tank berlinense interface, Julian Jaursch resume assim o dilema: "É sobre o que os Estados-membros da União Europeia e a UE, ou outros países democráticos, fazem com plataformas que não seguem as regras e se recusam a fornecer informações às autoridades."

Durov foi detido no último dia 24 no aeroporto Le Bourget, em Paris, após regressar em seu jatinho particular de uma viagem ao Azerbaijão.

Após ficar mais de 80 horas sob custódia da polícia, o empresário foi solto e indiciado formalmente por permitir a disseminação de conteúdo nocivo no Telegram.

Desde a prisão, apoiadores de Durov – entre eles o bilionário Elon Musk, dono do X – saíram em sua defesa, taxando as ações das autoridades francesas de censura.

A França, por sua vez, nega as acusações. Via X, o presidente Emmanuel Macron afirmou que a prisão não era "de forma nenhuma uma decisão política".

"Em um Estado regido pelo Estado de Direito, as liberdades são garantidas dentro de um arcabouço legal, tanto nas redes sociais quanto na vida real, para proteger os cidadãos e respeitar seus direitos fundamentais", afirmou Macron. "Cabe ao Judiciário, de forma totalmente independente, aplicar a lei."

Defensores dos direitos digitais, porém, disseram à DW ver com preocupação as ações das autoridades francesas. Eles alertam que o caso pode criar um precedente, levando outros países a forçar redes sociais a cumprirem com medidas demasiadamente amplas ou mesmo ilegais.

"Também poderia levar outras redes sociais e plataformas de comunicação a adotar medidas mais rígidas de moderação de conteúdo que poderiam levar à censura", afirma Natalia Krapiva, conselheira para assuntos legais na área de tecnologia na ONG Access Now. "Isso prejudicaria todos os usuários, mas principalmente ativistas da sociedade civil e a mídia independente, que já operam em ambientes repressivos".

Ferramenta pró-democracia – e paraíso do crime

O Telegram é, mais do que qualquer outra grande rede social, famoso por sua moderação de conteúdo minimalista. Isso fez dele uma ferramenta importante na organização de esforços de ativistas pró-democracia, desde o Irã até Hong Kong.

No entanto, o Telegram também se tornou um porto seguro para extremistas e conspiracionistas, além de ferramenta para cibercriminosos.

Autoridades francesas começaram a investigar o Telegram depois que a empresa ignorou a maioria dos pedidos de cooperação para a investigação de crimes cometidos mediante o uso da plataforma, segundo um comunicado da Promotoria de Paris.

Quando puseram Durov em liberdade, anunciaram que ele estava sendo investigado por uma série de crimes: suposta cumplicidade na operação de uma plataforma online que facilita transações ilegais, disseminação de material que retrata violência sexual contra crianças, promoção do tráfico de drogas, fraude e fornecimento de um serviço de mensagens criptografadas sem licença.

Em resposta, um dos advogados de Durov disse a jornalistas que era "totalmente absurdo pensar que o chefe de uma rede social poderia estar envolvido em atos criminosos que não lhe dizem respeito, direta ou indiretamente".

Próximos passos na França e na UE

No sistema judiciário francês, uma investigação formal é pré-requisito para que um caso vá a julgamento, mas não é garantia de que o julgamento acontecerá. Se as autoridades concluírem que não há evidências suficientes, o caso pode ser arquivado antes do julgamento.

Por enquanto, Durov não tem permissão para deixar o país e tem que se apresentar à polícia duas vezes por semana, de acordo com a Promotoria de Paris.

À medida que a investigação na França ganha força, a atenção também se volta para a UE, que lidera os esforços para regulamentar as plataformas digitais no bloco.

No final de 2022, a UE aprovou a Lei de Serviços Digitais (DSA), um marco regulatório abrangente projetado para responsabilizar as redes sociais pelo que acontece em suas plataformas.

Jan Penfrat, da organização de direitos digitais EDRi, com sede em Bruxelas, enfatizou a necessidade de a UE aplicar a DSA e abordar o papel do Telegram.

"Com todos os olhos voltados para o Telegram e a situação na França, as autoridades da UE precisam agir agora", disse Penfrat à DW. "Caso contrário, as pessoas começarão a ver a DSA como um tigre de papel."

Uma questão importante é o número de usuários do Telegram na UE. A DSA sujeita a regulamentos mais rigorosos plataformas consideradas "muito grandes", isto é, que tenham mais de 45 milhões de usuários ativos no bloco – ligeiramente acima dos 41 milhões informados pelo Telegram à UE em fevereiro.

A UE agora investiga se o Telegram forneceu números imprecisos. Caso as autoridades concluam que a empresa subestimou esses dados, a plataforma pode enfrentar uma série de penalidades.

"A DSA é nova e muitas de suas ferramentas ainda não foram testadas, mas inclui várias medidas para forçar o Telegram a cooperar melhor com as autoridades", disse Penfrat.

Essas medidas incluem pesadas multas, de até 6% do faturamento global, e até mesmo o bloqueio temporário dessas plataformas.

 "O Telegram colocaria a DSA em um de seus primeiros grandes testes", afirmou Penfrat