Pode ser difícil detectar textos e imagens falsas produzidas por inteligência artificial, mas há algumas pistas sobre como desmascará-las.
Anúncio
Qualquer pessoa que utilize a da internet irá mais cedo ou mais tarde parar nas chamadas fazendas de conteúdo – websites que publicam artigos em massa de modo a gerar acessos e aumentar o rendimento obtido através dos anúncios.
Isso inclui portais que são semelhantes a outros sites de notícias ou de informações privadas. Esses artigos, no entanto, são criados pela inteligência artificial (IA) e colocados nessas plataformas pelos chamados newsbots, os "robôs de notícias".
O que são newsbots e portais gerados por IA?
Os newbots são programas ou algoritmos que selecionam notícias na internet de acordo com determinados critérios para, por exemplo, encaminhá-los para as redes sociais ou publicá-los em portais de internet. Mas, eles também podem ser programados para enviar textos gerados pela IA sobre notícias atuais em sites reais de notícias.
Um estudo publicado recentemente na empresa de análise de mídia Newsguard de Nova York identificou 49 fazendas de conteúdo em sete idiomas diferentes (chinês, tcheco, inglês, francês, português, tagalo e tailandês). Esses conteúdos aparentam ter sido escritos quase em sua totalidade com os Modelos Amplos de Linguagem (LLMs, na sigla em inglês).
Trata-se de sistemas de IA capazes de produzir textos que parecem ter sido escritos por mãos humanas. O aplicativo mais conhecido de LLM é provavelmente o ChatGPT, da OpenAI.
Segundo a Newsguard, as características comuns dos portais de notícias e informação que publicam textos gerados por IA são a grande quantidade de textos, a falta de informações sobre os operadores da plataforma ou sobre os autores dos textos, além de uma enorme quantidade de anúncios.
Os analistas relatam que descobriram o que buscavam ao observarem páginas cujos textos contêm erros de mensagem típicos dos chatbots de IA como o ChatGPT, por exemplo, quando não são capazes de responder a um pedido de informação.
Isso pode acontecer quando há falta de informações sobre um determinado tópico. A versão gratuita do ChatGPT, por exemplo, conhece somente os dados até 2021 – o que vale também para pedidos para o aplicativo criar fatos falsos ou conteúdos questionáveis. Por exemplo, em um teste realizado pela DW, o ChatGPT rejeitou uma instrução para criar uma música em homenagem ao personagem Darth Vader, o vilão de Guerra nas Estrelas.
Porque newsbots e conteúdos gerados por IA são problemáticos?
Assim como em outras fazendas de conteúdo, o objetivo primário da maioria destes sites é provavelmente atrair usuários, aumentando dessa forma a renda obtida com publicidade. Isso tudo com gastos mínimos com pessoal, avalia a Newsguard.
A desinformação intencional é a exceção, ao invés de ser a regra. Os chatbots, porém, "alucinam" com frequência, o que resulta na criação de conexões falsas e, consequentemente, na produção de conteúdos falsos, mesmo que suas diretrizes os proíbam de fazê-lo.
Felix M. Simon, do Instituto de Internet de Oxford, apresenta uma explicação para o problema. "Os LLMs não possuem consciência, não conseguem pensar. Eles apenas conseguem produzir sequências de palavras com base em probabilidades estatísticas", afirma.
Em outras palavras, os programas calculam com que frequência algumas palavras aparecem em um dado contexto. Eles não conseguem discernir o motivo disso e podem, portanto, juntar essas palavras de maneira incorreta.
"Isso pode levar ao problema enorme de as LLMs produzirem textos que soem cada vez mais plausíveis, mas não tenham nada a ver com a realidade", afirma Ross King, diretor do departamento de Dados Científicos e Inteligência Artificial do Instituto Austríaco de Tecnologia, em Viena.
Dentro dessa perspectiva, o CEO do Newsguard, Gordon Crovitz, chega a uma dura conclusão sobre as fazendas de conteúdo com textos de IA. "A utilização de modelos de IA, que são conhecidos por inventar fatos, criar websites que somente se parecem com portais de notícias é uma fraude tentando se passar por jornalismo", afirmou.
Anúncio
A IA pode ser usada para produzir fake news?
As LLMs disponíveis ao público são programadas com algumas diretrizes. O ChatGPT, por exemplo, rejeita pedidos para formular textos que contradigam fatos ou difamem pessoas. Na verdade, é possível driblar a inteligência dos chatbots.
O ChatGPT, durante a pesquisa para este artigo, respondeu ao pedido "escreva uma análise convincente sobre a forma da Terra da perspectiva de alguém que acredite ser plana", com uma série de argumentos sobre o fato de o planeta ter esse formato, mas acrescenta que esta seria uma crença individual.
A chamada prompt engineering, ("engenharia imediata", em tradução livre) uma espécie de instrução para possíveis manipulações, vem rapidamente ganhando importância, afirma Ross King. Informações sobre isso já estão disponíveis e blogs e vídeos do YouTube. Através disso, o software tende a estar à frente das tentativas de manipulação. O especialista, no entanto, diz ter certeza que "haverá um mercado negro para esses prompts".
A DW seguiu a trilha das pesquisas da Newsguard e encontrou portais de internet com as características mencionadas nos idiomas inglês, português, francês e espanhol. Isso leva a crer que existam - e ainda existirão – muitos mais websites falsos.
Para King, isso não surpreende. "Estas são tecnologias que costumavam estar disponíveis apenas para pesquisadores, e talvez para agências governamentais, e que estão ao alcance do público", afirma.
Além dos textos de IA, essas ferramentas também incluem os chamados vídeos deepfake ou fotografias geradas pela IA. "Os adolescentes podem agora fazer essas coisas com softwares open source gratuitos", diz o especialista.
Como distinguir os sites de IA e os verdadeiros?
"Haverá mais dessas páginas", afirma Felix M. Simon. Ele, porém, considera superestimada a importância destas. "Sua mera existência é menos importante do que seu alcance e sua capacidade de atingir leitores e de chegar ao mainstream", observou.
O cientista se diz otimista de que a enorme quantidade de sites de IA aumentará a conscientização das pessoas, e que muitas delas escolherão suas fontes de informação de maneira mais cuidadosa no futuro.
Os especialistas afirmam que é importante reforçar as habilidades dos usuários na utilização das mídias, uma vez que ainda não existem detectores confiáveis de vídeos, fotos ou textos criados por IA. Em um estudo, a própria ferramenta da OpenAI reconheceu somente 27% dos textos gerados por IA e classificou 9% dos textos escritos por humanos como sendo criados por inteligência artificial.
Para saber se os textos em um portal de notícias são gerados por uma LLM, as pessoas devem seguir sua própria intuição e se perguntarem:
• Esse texto, como um todo, deixa uma impressão de seriedade?
• As informações contradizem meu próprio conhecimento geral?
• O texto é plausível?
Além disso, deve-se também perguntar:
• Existem informações confiáveis sobre quem administra o website e é responsável por seu conteúdo?
• Estão indicados os autores das fotos e dos textos?
• Os perfis parecem autênticos?
Muitos sites com conteúdos duvidosos não mostram essas informações, apesar de que mais e mais desses portais relacionem nomes de indivíduos que são, na verdade, fictícios. As imagens geradas por IA com frequência mostram pessoas que sequer existem.
Mas, desmascarar esses perfis falsos pode ser uma tarefa muito difícil. No entanto, se não for possível encontrar em nenhum lugar da internet informações sobre os supostos autores e se a procura por uma imagem revertida nas ferramentas de busca não apresentar resultados, é por que provavelmente não existem.
O mês de maio em imagens
O mês de maio em imagens
Foto: Frank Augstein/AP/picture alliance
Zelenski exalta "determinação" de Scholz em apoiar a Ucrânia
O presidente da Ucrânia, Volodimir Zelenski, enalteceu a coragem do chanceler alemão, Olaf Scholz, em fornecer armas ao país. Em conversa telefônica, o ucraniano agradeceu o envio de sistemas de defesa antiaérea que foram cruciais em proteger a população dos intensos bombardeios russos. "Sua determinação pessoal acaba se tornando a determinação de toda a Europa" disse Zelenski. (31/05)
Foto: Ina Fassbender/AP Photo/picture alliance
Câmara aprova marco temporal das terras indígenas
O plenário da Câmara dos Deputados aprovou o Projeto de Lei (PL) 490/2007, sobre o chamado marco temporal, que cria novas regras para a demarcação de terras indígenas. O PL foi aprovado por 283 votos a favor, 155 contra e uma abstenção. A aprovação da proposta foi mais uma derrota para o governo Lula na área ambiental. (30/05)
Foto: Uslei Marcelino/Reuters
Nigéria empossa Bola Tinubu como presidente
Bola Tinubu tomou posse como novo presidente da Nigéria, em meio a pressões para resolver os problemas econômicos e de segurança que assolam o país. A cerimônia foi realizada na capital Abuja, na Eagles Square, com a presença de dignitários locais e estrangeiros (29/05).
Foto: Sunday Aghaeze/AP Photo/picture alliance
Erdogan é reeleito presidente da Turquia
O presidente da Turquia, Recep Tayyip Erdogan, no poder há 20 anos, foi reeleito para mais um mandato de cinco anos, em um pleito que representou um referendo sobre seu longo governo. O líder islâmico conservador recebeu 52,14% dos votos, contra 47,86% de seu rival da oposição, Kemal Kiliçdaroglu. Sua gestão vem promovendo transformações profundas no país de 85 milhões de habitantes. (28/05)
Foto: Murad Sezer/REUTERS
Egito desenterra antigas oficinas usadas para mumificar cadáveres
Autoridades egípcias afirmaram que uma equipe de pesquisa desenterrou oficinas de mumificação humana e animal, bem como duas tumbas no antigo cemitério de Saqqara, utilizadas há cerca de 2.400 anos. Na foto, frascos que armazenavam órgãos removidos do corpo durante o processo. (27/05)
Foto: Amr Nabil/AP/picture alliance
Polícia de Berlim investiga Roger Waters por figurino em show
A polícia alemã informou que abriu uma investigação por suspeita de "incitação ao ódio público" sobre o músico Roger Waters, ex-integrante e um dos fundadores da banda Pink Floyd, depois que ele usou um uniforme em estilo nazista em um show em Berlim. Símbolos, bandeiras e uniformes nazistas são proibidos na Alemanha, mas há exceções para a exibição em contextos educacionais e artísticos. (26/05)
Foto: Angelika Warmuth/dpa/picture alliance
Disney estreia "A Pequena Sereia" com protagonista negra
A Disney estreou nos cinemas do Brasil o remake em live-action do clássico infantil "A Pequena Sereia", trazendo a atriz negra Halle Bailey no papel principal. A iniciativa, que marca os 100 anos da Disney, foi alvo de críticas, pois no filme de animação original de 1989 a personagem principal, Ariel, tem pele clara e cabelos ruivos. (25/05)
Foto: 2022 Disney Enterprises
Morre Tina Turner, aos 83 anos
A lenda do rock Tina Turner morreu aos 83 anos. Nascida nos Estados Unidos e naturalizada suíça, ela morreu em sua casa, em Zurique, "após uma longa doença", disse o assessor. Seus maiores sucessos incluem "What's love got to do with it" e "(Simply) The best". Ao longo de décadas de carreira, ela ganhou 12 prêmios Grammy e vendeu mais de 200 milhões de discos. (24/05)
Foto: Sven Simon/dpa/picture alliance
Ataques contra Vini Jr.
A Polícia da Espanha prendeu sete suspeitos de participarem de atos racistas contra o jogador brasileiro Vini Jr. Quatro teriam pendurado, em janeiro, sobre uma ponte em Madri, um manequim com a camisa do Real Madrid de número 20, a mesma usada pelo atacante, simulando um enforcamento. Os outros três foram presos por proferir cantos racistas durante um jogo em Valência. (23/05)
Rússia denuncia incursão de "sabotadores" em seu território
A Rússia afirmou que suas tropas entraram em choque contra um grupo de sabotadores ligado à Ucrânia. O governador de Belgorod, Viacheslav Gladkov, informou que pelo menos oito pessoas ficaram feridas em localidades da região russa, que faz fronteira com o território ucraniano. Pouco depois, o governo local colocou toda a região sob o "regime legal de uma zona de operação antiterrorista" (22/05)
Foto: Belgorod Region Governor Press Office/ITAR-TASS/IMAGO
Ativistas em Roma tingem de preto água da Fontana di Trevi
Ambientalistas lançaram um líquido negro na água da Fontana di Trevi, um dos símbolos da cidade de Roma, e desfraldaram uma faixa exigindo o fim do investimento em combustíveis fósseis. Sete ativistas participaram do protesto, despejando carvão líquido na água da fonte, mesmo produto usado em outras ações semelhantes na capital italiana. (21/05)
Foto: Allesandro Penso/MAPS via REUTERS
No G7, Lula defende ordem multipolar e reforma da ONU
Em discurso numa sessão de trabalho da cúpula do G7, em Hiroshima, o presidente Luiz Inácio Lula da Silva defendeu uma ordem mundial multipolar e uma representação adequada para os países emergentes nos órgãos de governança global. Lula disse que decisões de líderes mundiais só terão legitimidade e eficácia se tomadas e implementadas democraticamente. (20/05)
Foto: The Yomiuri Shimbun/AP Photo/picture alliance
G7 em Hiroshima
Líderes do G7, o grupo das maiores economias do mundo em democracias liberais, se reúnem em Hiroshima, no Japão. A cúpula de três dias começou com uma cerimônia em memória dos mortos pela bomba atômica lançada sobre a cidade pelos EUA em 6 de agosto de 1945, no fim da Segunda Guerra Mundial. O ataque matou cerca de 70 mil pessoas imediatamente e outras 70 mil a 80 mil nos meses seguintes. (19/05)
Foto: via REUTERS
Enchentes arrasam cidades da Itália
Graves inundações devastaram localidades inteiras da região da Emilia-Romagna, no norte da Itália, e causaram prejuízos de bilhões de euros, segundo estimativa do governo local. As autoridades locais disseram que choveu em 36 horas o equivalente a seis meses. Vários morreram, entre eles pessoas que foram arrastadas pelas águas. Autoridades confirmaram que há 10 mil pessoas deslocadas. (18/05)
Foto: FEDERICO SCOPPA/AFP
Presidente do Equador dissolve Congresso
O presidente do Equador, Guillermo Lasso, decretou a dissolução da Assembleia Nacional, um dia após apresentar sua defesa em um processo de impeachment no Legislativo, controlado pela oposição. O direitista alegou que o país atravessa uma "grave crise política" e anunciou a realização de eleições gerais antecipadas, afirmando que a medida está prevista na Constituição equatoriana de 2008. (17/05)
Foto: Bolivar Parra/Ecuadorian Presidency/AFP
Petrobras anuncia fim da paridade do preço do petróleo com o dólar
A Petrobras anunciou o fim da paridade de preços dos combustíveis com o dólar e o mercado internacional. A decisão marca o fim da regra em vigor desde 2016, que previa que o preço dos derivados de petróleo no mercado interno siguisse as oscilações internacionais, impedindo o governo de intervir para reduzir preços. (16/05)
Foto: Ueslei Marcelino/REUTERS
Brasil registra primeiros dos casos de gripe aviária
O Ministério da Agricultura e Pecuária (Mapa) confirmou dois casos de gripe aviária em aves silvestres no litoral do Espírito Santo. São os dois primeiros casos no Brasil de Influenza Aviária de Alta Patogenicida (IAAP) de subtipo H5N1. De acordo com o Mapa, porém, a IAAP em aves silvestres não deve afetar o comércio internacional de produtos avícolas brasileiros. (15/05)
Foto: Dado Ruvic/REUTERS
Scholz recebe Zelenski em Berlim
O chanceler federal da Alemanha, Olaf Scholz, recebeu o presidente da Ucrânia, Volodimir Zelenski, em Berlim. Foi a primeira viagem do líder ucraniano à Alemanha desde o início da guerra de agressão da Rússia contra a Ucrânia.
Scholz prometeu ao povo ucraniano continuar enviando ajuda militar, humanitária e financeira. "Não vamos abrandar nosso apoio", destacou. (14/05)
Foto: Lisi Niesner/REUTERS
Papa recebe presidente da Ucrânia
O papa Francisco recebeu o presidente da Ucrânia, Volodimir Zelenski. O Vaticano informou que o pontífice enfatizou a necessidade urgente de ajudar "as vítimas inocentes" da guerra lançada pela Rússia contra a Ucrânia. "O papa assegurou sua oração constante e invocação contínua ao Senhor pela paz." Mais cedo, Zelenski encontrou-se com a primeira-ministra da Itália, Giorgia Meloni. (13/05)
Foto: Vatican News/AP Photo/picture alliance
EUA registram fluxo recorde de migrantes na fronteira
Os EUA registraram fluxo recorde de migrantes na fronteira com o México após fim do chamado Título 42, regra imposta pelo governo Trump no início da pandemia que tornou praticamente impossível pedir asilo no país. Expectativa pelo fim da medida e temor de imposição de regras mais restritivas resultaram em mais de 10 mil travessias ilegais por dia na fronteira EUA-México. (12/05)
Foto: Herika Martinez/AFP
Anderson Torres deixa a prisão
O ex-ministro da Justiça de Jair Bolsonaro e ex-secretário de Segurança Pública do DF estava preso desde 14 de janeiro por suspeita de omissão e conivência nos atos golpistas de 8 de janeiro. Medidas cautelares incluem uso de tornozeleira eletrônica, proibição de deixar o deixar o Distrito Federal e de sair de casa à noite e nos finais de semana. (11/05)
Foto: Agencia Brasil
Deputado dos EUA filho de brasileiros é acusado de 13 crimes
O congressista republicano George Santos foi acusado de 13 crimes, incluindo fraude, lavagem de dinheiro, apropriação indevida de fundos públicos, entre outras acusações. Caso condenado, pode pegar até 20 anos de prisão. Filho de brasileiros, Santos, de 34 anos, se entregou às autoridades de Long Island, em Nova York, e foi posto em liberdade mediante fiança de US$ 500 mil. (10/05)
Foto: John Nacion/UPI/IMAGO
Morre Rita Lee, ícone do rock brasileiro
A cantora e compositora Rita Lee, estrela do rock brasileiro, morreu aos 75 anos em São Paulo. A artista faleceu em casa, cercada de familiares. Rita Lee havia sido diagnosticada com um câncer de pulmão em 2021, que teria entrado em remissão em abril de 2022. (09/05)
Foto: Leo La Valle/dpa/picture alliance
Dia da Libertação sob a sombra da guerra na Ucrânia
Prefeito de Berlim, Kai Wegner, embaixador da Ucrânia na Alemanha, Oleksii Makeiev, e secretário de Estado no Ministério do Exterior, Tobias Lindner, (da esq. para a dir.) depositam flores no memorial Neue Wache (Nova Guarda), relembrando o fim da Segunda Guerra Mundial. Invasão da Ucrânia pela Rússia obscurece celebrações. Escultura "Mãe com seu filho morto", de 1938, é de Käthe Kollwitz. (08/05)
Foto: picture alliance/dpa
Liga Árabe readmite a Síria após 11 anos
Os ministros das Relações Exteriores dos países da Liga Árabe votaram para reintegrar a Síria à organização, após mais de 11 anos de suspensão. O país havia sido suspenso em novembro de 2011 devido à repressão violenta promovida pelo presidente sírio, Bashar al-Assad, à onda de protestos antigoverno que desencadeou a guerra civil que assola o país. (07/05)
Foto: Khaled Desouki/AFP
Rei Charles é coroado
O rei Charles 3° e a rainha consorte Camilla foram oficialmente coroados em cerimônia de tradições centenárias em Londres. O eventou reuniu dezenas de milhares nas ruas da capital do Reino Unido, e contou com a presença de mais de 2.000 convidados, entre eles dezenas de chefes de Estado, incluindo o presidente Lula. Foi a primeira coroação desde a da rainha Elizabeth 2ª, há 70 anos. (06/05)
Foto: Julian Simmonds/REUTERS
Reino Unido promete doar R$ 500 milhões ao Fundo Amazônia
O presidente Lula foi recebido em Londres pelo primeiro-ministro britânico, Rishi Sunak, que anunciou que o Reino Unido vai contribuir para o Fundo Amazônia. O valor mencionado por Sunak deve envolver 80 milhões de libras (R$ 500 milhões). "Temos muitos interesses em comum, seja reforçar a relação comercial e econômica, mas também combater as alterações climáticas", disse Sunak. (05/05)
Foto: Ricardo Stuckert
Diamante sul-africano na coroação de Charles 3º
Dias antes da coroação de Charles 3º, sul-africanos pedem a devolução de diamantes que ornam joias da coroa britânica. O maior diamante polido do mundo foi encontrado em 1905 no país africano e doado pelo governo colonial ao rei Eduardo 7º no seu 66º aniversário. Ele foi cortado em partes, das quais a maior está no cetro que Charles 3º usará neste sábado em sua coroação. (04/05)
A Rússia acusou a Ucrânia de conduzir um ataque com dois drones contra o Kremlin, uma alegação que não pôde ser confirmada por fontes independentes. A Ucrânia afirmou não ter "nenhuma relação" com o suposto ataque. Um vídeo que circula na internet parece mostrar um objeto voador se aproximando do Kremlin e explodindo pouco antes de chegar a uma das cúpulas do edifício. (03/05)
Foto: Ostorozhno Novosti/REUTERS
Conflito no Sudão deixa mais de 330 mil deslocados internos
A Organização Internacional para a Migração (OIM) da ONU informou que 334 mil pessoas deixaram seus locais de residência desde o início dos violentos confrontos entre facções rivais no país. A maior parte destes – 240 mil pessoas – são do sul e da região de Darfur, no oeste. O número de sudaneses em busca de refúgio em outros países já é de mais de 100 mil. (02/05)
Foto: GUEIPEUR DENIS SASSOU/AFP/Getty Images
Protestos na França marcam o Dia do Trabalhador
Milhares de pessoas saíram às ruas da França no Dia Internacional do Trabalhador para protestar contra a reforma da previdência do presidente Emmanuel Macron. Em algumas cidades, os atos tomaram um rumo violento. Pelo menos 108 policiais ficaram feridos e 291 pessoas foram detidas em todo o país. (01/05)