IA pode levar humanidade à extinção, alertam especialistas
30 de maio de 2023
Cientistas e líderes do setor, como CEOs da OpenAI e DeepMind, assinam declaração alertando que prioridade global deve ser mitigar ameaças que podem se equivaler a uma guerra nuclear ou pandemia.
Anúncio
Especialistas, executivos, cientistas e outras personalidades assinaram declaração divulgada nesta terça-feira (30/05) pelo Center for AI Safety (CAIS), uma entidade que reúne vários grupos em nome da segurança na área da inteligência artificial (IA), alertando para as potenciais ameaças que essas novas tecnologias podem representar.
"Mitigar os riscos de extinção pela IA deve ser uma prioridade global, ao lado de outros riscos em escala social como pandemias e guerras nucleares", afirma a frase única que compõe a declaração.
O texto de apresentação da mensagem – duas vezes mais longo do que a própria declaração – afirma que especialistas em IA, jornalistas, tomadores de decisões e o público geral "discutem cada vez mais uma ampla variedade de riscos importantes e urgentes da IA".
"Mesmo assim, pode ser difícil expressar preocupações sobre alguns dos riscos mais graves da IA. A curta declaração tem como objetivo superar esse obstáculo e abrir discussões", afirma o texto de apresentação.
"Da mesma forma, visa criar conhecimento comum sobre o grande número de especialistas e figuras públicas que também levam a sério alguns dos riscos mais graves da IA."
Signatários ilustres
Entre as personalidades que assinam a declaração estão dois dos três pesquisadores considerados os "padrinhos" da IA, Geoffrey Hinton e Yoshua Bengio, cujos nomes fora colocados no topo da lista de signatários.
O terceiro deles, Yann Le Cun, que atualmente trabalha para a empresa administradora da rede social Facebook, a Meta, não assinou a declaração.
Outros signatários de peso são os CEOs do DeepMind do Google, Demis Hassasbis, além de Sam Altman, da OpenAI – a empresa criadora da ferramenta ChatGPT –, juntamente com Dario Amodei, diretor-executivo da companhia da IA Anthropic.
Também assinaram o texto vários acadêmicos e empresários, muitos dos quais trabalham em empresas como Google e Microsoft, além de personalidades como o neurocientista e apresentador de podcast Sam Harris, a ex-presidente da Estônia Kersti Kaljulaid e a cantora pop canadense Grimes. Esta úlltima é mãe de dois filhos do bilionário Elon Musk, que em março, junto de outros especialistas do setor tecnológico, já havia pedido uma "pausa na inteligência artificial", alertando para "grandes riscos para humanidade".
Anúncio
UE avança regulamentações
A declaração foi divulgada na mesma data de uma reunião do Conselho EUA-União Europeia de Comércio e Tecnologia na Suécia, onde políticos e expoentes do setor de tecnologia debatem possíveis regulamentações da IA dos dois lados do Atlântico.
Nesta terça-feira, autoridades da UE disseram que o chefe do setor tecnológico do bloco dos 27 países, Thierry Breton, se reunirá pessoalmente no próximo mês com Sam Altman, da OpenAI, em San Francisco, nos Estados Unidos. Ambos discutirão de que forma a empresa deverá implementar a primeira tentativa de regular a IA na Europa, que deve entrar em vigor em 2026.
Apesar de ter defendido recentemente em várias ocasiões a necessidade de se impor um regulamentação da IA, Altman ameaçou remover sua empresa da Europa na primeira vez em que Bruxelas sinalizou essas iniciativas, dizendo que as propostas iam longe demais. Mais tarde, ele acabaria retrocedendo.
A declaração de uma só frase sobre as ameaças representadas pela IA não especifica os potenciais riscos e o quão grave seriam estes. Também não sugere como mitigá-los ou quem deveria se encarregar dessa tarefa.
Em comentários recentes divulgados pelo Center for AI Safety, Yoshua Bengio, um dos três "padrinhos" da IA que dirige o Instituto Montreal para Algoritmos de Aprendizado, argumenta que as inteligências artificiais podem representar uma ameaça existencial para a humanidade.
Ele afirma que as IAs podem se tornar capazes de perseguir metas e realizar ações no mundo real, algo ainda não tentado fora de ambientes fechados como alguns jogos de xadrez online. Essas ações, segundo afirma, poderão estar em conflito com valores humanos.
Possíveis ameaças da IA
Bengio identifica quatro maneiras através das quais as IAs podem buscar objetivos de modo a entrarem em conflito com os interesses humanos. O principal destes seria a própria humanidade, como a perspectiva de agentes humanos com intenções malévolas instruindo a IA para fazer algo ruim.
A IA pode ainda receber orientações imprecisamente especificadas ou descritas a partir das quais podem surgir erros de conclusão com base nessas instruções. A terceira hipótese é a de que a IA pode criar seus próprios subobjetivos ao buscar uma meta mais ampla criada por um humano que pode ajudar a atingir o objetivo final, gerando riscos graves.
Por último, Bengio afirma que as IAs podem acabar desenvolvendo uma espécie de pressão evolucionária de modo a se comportarem de maneira mais autocentrada, como fazem os animais na natureza, de modo a assegurar sua própria sobrevivência.
Para mitigar esses riscos, Bengio sugere novas pesquisas em segurança, tanto no nível técnico quanto político. Ele também recomenda proibir, ao menos por enquanto, as IAs de buscarem objetivos e ações no mundo real, e diz que "é desnecessário afirmar" que armas letais autônomas devem ser "totalmente banidas".
rc (AFP, AP, Reuters)
O mês de maio em imagens
O mês de maio em imagens
Foto: Frank Augstein/AP/picture alliance
Zelenski exalta "determinação" de Scholz em apoiar a Ucrânia
O presidente da Ucrânia, Volodimir Zelenski, enalteceu a coragem do chanceler alemão, Olaf Scholz, em fornecer armas ao país. Em conversa telefônica, o ucraniano agradeceu o envio de sistemas de defesa antiaérea que foram cruciais em proteger a população dos intensos bombardeios russos. "Sua determinação pessoal acaba se tornando a determinação de toda a Europa" disse Zelenski. (31/05)
Foto: Ina Fassbender/AP Photo/picture alliance
Câmara aprova marco temporal das terras indígenas
O plenário da Câmara dos Deputados aprovou o Projeto de Lei (PL) 490/2007, sobre o chamado marco temporal, que cria novas regras para a demarcação de terras indígenas. O PL foi aprovado por 283 votos a favor, 155 contra e uma abstenção. A aprovação da proposta foi mais uma derrota para o governo Lula na área ambiental. (30/05)
Foto: Uslei Marcelino/Reuters
Nigéria empossa Bola Tinubu como presidente
Bola Tinubu tomou posse como novo presidente da Nigéria, em meio a pressões para resolver os problemas econômicos e de segurança que assolam o país. A cerimônia foi realizada na capital Abuja, na Eagles Square, com a presença de dignitários locais e estrangeiros (29/05).
Foto: Sunday Aghaeze/AP Photo/picture alliance
Erdogan é reeleito presidente da Turquia
O presidente da Turquia, Recep Tayyip Erdogan, no poder há 20 anos, foi reeleito para mais um mandato de cinco anos, em um pleito que representou um referendo sobre seu longo governo. O líder islâmico conservador recebeu 52,14% dos votos, contra 47,86% de seu rival da oposição, Kemal Kiliçdaroglu. Sua gestão vem promovendo transformações profundas no país de 85 milhões de habitantes. (28/05)
Foto: Murad Sezer/REUTERS
Egito desenterra antigas oficinas usadas para mumificar cadáveres
Autoridades egípcias afirmaram que uma equipe de pesquisa desenterrou oficinas de mumificação humana e animal, bem como duas tumbas no antigo cemitério de Saqqara, utilizadas há cerca de 2.400 anos. Na foto, frascos que armazenavam órgãos removidos do corpo durante o processo. (27/05)
Foto: Amr Nabil/AP/picture alliance
Polícia de Berlim investiga Roger Waters por figurino em show
A polícia alemã informou que abriu uma investigação por suspeita de "incitação ao ódio público" sobre o músico Roger Waters, ex-integrante e um dos fundadores da banda Pink Floyd, depois que ele usou um uniforme em estilo nazista em um show em Berlim. Símbolos, bandeiras e uniformes nazistas são proibidos na Alemanha, mas há exceções para a exibição em contextos educacionais e artísticos. (26/05)
Foto: Angelika Warmuth/dpa/picture alliance
Disney estreia "A Pequena Sereia" com protagonista negra
A Disney estreou nos cinemas do Brasil o remake em live-action do clássico infantil "A Pequena Sereia", trazendo a atriz negra Halle Bailey no papel principal. A iniciativa, que marca os 100 anos da Disney, foi alvo de críticas, pois no filme de animação original de 1989 a personagem principal, Ariel, tem pele clara e cabelos ruivos. (25/05)
Foto: 2022 Disney Enterprises
Morre Tina Turner, aos 83 anos
A lenda do rock Tina Turner morreu aos 83 anos. Nascida nos Estados Unidos e naturalizada suíça, ela morreu em sua casa, em Zurique, "após uma longa doença", disse o assessor. Seus maiores sucessos incluem "What's love got to do with it" e "(Simply) The best". Ao longo de décadas de carreira, ela ganhou 12 prêmios Grammy e vendeu mais de 200 milhões de discos. (24/05)
Foto: Sven Simon/dpa/picture alliance
Ataques contra Vini Jr.
A Polícia da Espanha prendeu sete suspeitos de participarem de atos racistas contra o jogador brasileiro Vini Jr. Quatro teriam pendurado, em janeiro, sobre uma ponte em Madri, um manequim com a camisa do Real Madrid de número 20, a mesma usada pelo atacante, simulando um enforcamento. Os outros três foram presos por proferir cantos racistas durante um jogo em Valência. (23/05)
Rússia denuncia incursão de "sabotadores" em seu território
A Rússia afirmou que suas tropas entraram em choque contra um grupo de sabotadores ligado à Ucrânia. O governador de Belgorod, Viacheslav Gladkov, informou que pelo menos oito pessoas ficaram feridas em localidades da região russa, que faz fronteira com o território ucraniano. Pouco depois, o governo local colocou toda a região sob o "regime legal de uma zona de operação antiterrorista" (22/05)
Foto: Belgorod Region Governor Press Office/ITAR-TASS/IMAGO
Ativistas em Roma tingem de preto água da Fontana di Trevi
Ambientalistas lançaram um líquido negro na água da Fontana di Trevi, um dos símbolos da cidade de Roma, e desfraldaram uma faixa exigindo o fim do investimento em combustíveis fósseis. Sete ativistas participaram do protesto, despejando carvão líquido na água da fonte, mesmo produto usado em outras ações semelhantes na capital italiana. (21/05)
Foto: Allesandro Penso/MAPS via REUTERS
No G7, Lula defende ordem multipolar e reforma da ONU
Em discurso numa sessão de trabalho da cúpula do G7, em Hiroshima, o presidente Luiz Inácio Lula da Silva defendeu uma ordem mundial multipolar e uma representação adequada para os países emergentes nos órgãos de governança global. Lula disse que decisões de líderes mundiais só terão legitimidade e eficácia se tomadas e implementadas democraticamente. (20/05)
Foto: The Yomiuri Shimbun/AP Photo/picture alliance
G7 em Hiroshima
Líderes do G7, o grupo das maiores economias do mundo em democracias liberais, se reúnem em Hiroshima, no Japão. A cúpula de três dias começou com uma cerimônia em memória dos mortos pela bomba atômica lançada sobre a cidade pelos EUA em 6 de agosto de 1945, no fim da Segunda Guerra Mundial. O ataque matou cerca de 70 mil pessoas imediatamente e outras 70 mil a 80 mil nos meses seguintes. (19/05)
Foto: via REUTERS
Enchentes arrasam cidades da Itália
Graves inundações devastaram localidades inteiras da região da Emilia-Romagna, no norte da Itália, e causaram prejuízos de bilhões de euros, segundo estimativa do governo local. As autoridades locais disseram que choveu em 36 horas o equivalente a seis meses. Vários morreram, entre eles pessoas que foram arrastadas pelas águas. Autoridades confirmaram que há 10 mil pessoas deslocadas. (18/05)
Foto: FEDERICO SCOPPA/AFP
Presidente do Equador dissolve Congresso
O presidente do Equador, Guillermo Lasso, decretou a dissolução da Assembleia Nacional, um dia após apresentar sua defesa em um processo de impeachment no Legislativo, controlado pela oposição. O direitista alegou que o país atravessa uma "grave crise política" e anunciou a realização de eleições gerais antecipadas, afirmando que a medida está prevista na Constituição equatoriana de 2008. (17/05)
Foto: Bolivar Parra/Ecuadorian Presidency/AFP
Petrobras anuncia fim da paridade do preço do petróleo com o dólar
A Petrobras anunciou o fim da paridade de preços dos combustíveis com o dólar e o mercado internacional. A decisão marca o fim da regra em vigor desde 2016, que previa que o preço dos derivados de petróleo no mercado interno siguisse as oscilações internacionais, impedindo o governo de intervir para reduzir preços. (16/05)
Foto: Ueslei Marcelino/REUTERS
Brasil registra primeiros dos casos de gripe aviária
O Ministério da Agricultura e Pecuária (Mapa) confirmou dois casos de gripe aviária em aves silvestres no litoral do Espírito Santo. São os dois primeiros casos no Brasil de Influenza Aviária de Alta Patogenicida (IAAP) de subtipo H5N1. De acordo com o Mapa, porém, a IAAP em aves silvestres não deve afetar o comércio internacional de produtos avícolas brasileiros. (15/05)
Foto: Dado Ruvic/REUTERS
Scholz recebe Zelenski em Berlim
O chanceler federal da Alemanha, Olaf Scholz, recebeu o presidente da Ucrânia, Volodimir Zelenski, em Berlim. Foi a primeira viagem do líder ucraniano à Alemanha desde o início da guerra de agressão da Rússia contra a Ucrânia.
Scholz prometeu ao povo ucraniano continuar enviando ajuda militar, humanitária e financeira. "Não vamos abrandar nosso apoio", destacou. (14/05)
Foto: Lisi Niesner/REUTERS
Papa recebe presidente da Ucrânia
O papa Francisco recebeu o presidente da Ucrânia, Volodimir Zelenski. O Vaticano informou que o pontífice enfatizou a necessidade urgente de ajudar "as vítimas inocentes" da guerra lançada pela Rússia contra a Ucrânia. "O papa assegurou sua oração constante e invocação contínua ao Senhor pela paz." Mais cedo, Zelenski encontrou-se com a primeira-ministra da Itália, Giorgia Meloni. (13/05)
Foto: Vatican News/AP Photo/picture alliance
EUA registram fluxo recorde de migrantes na fronteira
Os EUA registraram fluxo recorde de migrantes na fronteira com o México após fim do chamado Título 42, regra imposta pelo governo Trump no início da pandemia que tornou praticamente impossível pedir asilo no país. Expectativa pelo fim da medida e temor de imposição de regras mais restritivas resultaram em mais de 10 mil travessias ilegais por dia na fronteira EUA-México. (12/05)
Foto: Herika Martinez/AFP
Anderson Torres deixa a prisão
O ex-ministro da Justiça de Jair Bolsonaro e ex-secretário de Segurança Pública do DF estava preso desde 14 de janeiro por suspeita de omissão e conivência nos atos golpistas de 8 de janeiro. Medidas cautelares incluem uso de tornozeleira eletrônica, proibição de deixar o deixar o Distrito Federal e de sair de casa à noite e nos finais de semana. (11/05)
Foto: Agencia Brasil
Deputado dos EUA filho de brasileiros é acusado de 13 crimes
O congressista republicano George Santos foi acusado de 13 crimes, incluindo fraude, lavagem de dinheiro, apropriação indevida de fundos públicos, entre outras acusações. Caso condenado, pode pegar até 20 anos de prisão. Filho de brasileiros, Santos, de 34 anos, se entregou às autoridades de Long Island, em Nova York, e foi posto em liberdade mediante fiança de US$ 500 mil. (10/05)
Foto: John Nacion/UPI/IMAGO
Morre Rita Lee, ícone do rock brasileiro
A cantora e compositora Rita Lee, estrela do rock brasileiro, morreu aos 75 anos em São Paulo. A artista faleceu em casa, cercada de familiares. Rita Lee havia sido diagnosticada com um câncer de pulmão em 2021, que teria entrado em remissão em abril de 2022. (09/05)
Foto: Leo La Valle/dpa/picture alliance
Dia da Libertação sob a sombra da guerra na Ucrânia
Prefeito de Berlim, Kai Wegner, embaixador da Ucrânia na Alemanha, Oleksii Makeiev, e secretário de Estado no Ministério do Exterior, Tobias Lindner, (da esq. para a dir.) depositam flores no memorial Neue Wache (Nova Guarda), relembrando o fim da Segunda Guerra Mundial. Invasão da Ucrânia pela Rússia obscurece celebrações. Escultura "Mãe com seu filho morto", de 1938, é de Käthe Kollwitz. (08/05)
Foto: picture alliance/dpa
Liga Árabe readmite a Síria após 11 anos
Os ministros das Relações Exteriores dos países da Liga Árabe votaram para reintegrar a Síria à organização, após mais de 11 anos de suspensão. O país havia sido suspenso em novembro de 2011 devido à repressão violenta promovida pelo presidente sírio, Bashar al-Assad, à onda de protestos antigoverno que desencadeou a guerra civil que assola o país. (07/05)
Foto: Khaled Desouki/AFP
Rei Charles é coroado
O rei Charles 3° e a rainha consorte Camilla foram oficialmente coroados em cerimônia de tradições centenárias em Londres. O eventou reuniu dezenas de milhares nas ruas da capital do Reino Unido, e contou com a presença de mais de 2.000 convidados, entre eles dezenas de chefes de Estado, incluindo o presidente Lula. Foi a primeira coroação desde a da rainha Elizabeth 2ª, há 70 anos. (06/05)
Foto: Julian Simmonds/REUTERS
Reino Unido promete doar R$ 500 milhões ao Fundo Amazônia
O presidente Lula foi recebido em Londres pelo primeiro-ministro britânico, Rishi Sunak, que anunciou que o Reino Unido vai contribuir para o Fundo Amazônia. O valor mencionado por Sunak deve envolver 80 milhões de libras (R$ 500 milhões). "Temos muitos interesses em comum, seja reforçar a relação comercial e econômica, mas também combater as alterações climáticas", disse Sunak. (05/05)
Foto: Ricardo Stuckert
Diamante sul-africano na coroação de Charles 3º
Dias antes da coroação de Charles 3º, sul-africanos pedem a devolução de diamantes que ornam joias da coroa britânica. O maior diamante polido do mundo foi encontrado em 1905 no país africano e doado pelo governo colonial ao rei Eduardo 7º no seu 66º aniversário. Ele foi cortado em partes, das quais a maior está no cetro que Charles 3º usará neste sábado em sua coroação. (04/05)
A Rússia acusou a Ucrânia de conduzir um ataque com dois drones contra o Kremlin, uma alegação que não pôde ser confirmada por fontes independentes. A Ucrânia afirmou não ter "nenhuma relação" com o suposto ataque. Um vídeo que circula na internet parece mostrar um objeto voador se aproximando do Kremlin e explodindo pouco antes de chegar a uma das cúpulas do edifício. (03/05)
Foto: Ostorozhno Novosti/REUTERS
Conflito no Sudão deixa mais de 330 mil deslocados internos
A Organização Internacional para a Migração (OIM) da ONU informou que 334 mil pessoas deixaram seus locais de residência desde o início dos violentos confrontos entre facções rivais no país. A maior parte destes – 240 mil pessoas – são do sul e da região de Darfur, no oeste. O número de sudaneses em busca de refúgio em outros países já é de mais de 100 mil. (02/05)
Foto: GUEIPEUR DENIS SASSOU/AFP/Getty Images
Protestos na França marcam o Dia do Trabalhador
Milhares de pessoas saíram às ruas da França no Dia Internacional do Trabalhador para protestar contra a reforma da previdência do presidente Emmanuel Macron. Em algumas cidades, os atos tomaram um rumo violento. Pelo menos 108 policiais ficaram feridos e 291 pessoas foram detidas em todo o país. (01/05)