Ferramentas de IA da UE ajudam jornalistas a combater a desinformação

Em um cenário em que falsificações e notícias enganosas se multiplicam, pesquisadores com financiamento da UE estão desenvolvendo ferramentas para que jornalistas consigam separar, com mais segurança, o que é verdadeiro do que é fabricado.

No último inverno, quando os mercados de Natal começaram a funcionar em vários países europeus, as redes sociais passaram a circular vídeos alarmistas em grande volume. Segundo essas publicações, os mercados estariam sendo “invadidos” por islamistas radicais.

Um clipe supostamente registrava “tumultos” na inauguração do mercado de Natal de Bruxelas. Em outra imagem, via-se um mercado cercado por um grande aparato de segurança. A interpretação sugerida era direta: tradições cristãs estariam, supostamente, sob ameaça.

Só que os fatos eram diferentes. Os vídeos, na verdade, vinham de manifestações pacíficas, e a foto havia sido criada com IA. O que parecia plausível à primeira vista era enganoso - ou simplesmente falso.

Esse é o novo ambiente informacional. Em uma pesquisa recente da Comissão Europeia, quase dois terços dos participantes disseram ter encontrado desinformação ou notícias falsas na semana anterior. Como as ferramentas de IA já conseguem produzir imagens, vídeos e textos altamente realistas, ficou mais difícil do que nunca distinguir o real do artificial.

Diante disso, um grupo multinacional de pesquisadores e especialistas em mídia, com apoio de recursos da UE, resolveu enfrentar o problema usando as mesmas armas tecnológicas.

Uma primeira linha de defesa

Em 2020, especialistas de universidades, empresas de tecnologia e organizações de mídia se uniram em uma iniciativa de quatro anos financiada pela UE, chamada AI4Media. A meta era desenvolver ferramentas de IA capazes de apoiar jornalistas e verificadores de fatos na checagem rápida e confiável de conteúdo digital.

“É urgente desenvolver técnicas de IA para o setor dos meios de comunicação social”, afirma Yiannis Kompatsiaris, diretor de pesquisa do Centre for Research & Technology Hellas (CERTH), que coordenou a iniciativa.

Com a IA, produzir falsificações convincentes deixou de ser difícil. Hoje, qualquer pessoa com acesso à IA generativa pode forjar imagens, clonar vozes ou redigir textos noticiosos com aparência realista - e as redes sociais tratam de amplificar esse material em alta velocidade.

“Quando uma história falsa é apoiada por imagens realistas, torna-se muito mais fácil acreditar - e mais tentador partilhar, porque o conteúdo aumenta o número de visualizações”, acrescenta Kompatsiaris.

Para responder a esse contexto, a equipe do AI4Media criou ferramentas de verificação pensadas para se encaixar diretamente no fluxo de trabalho de redações. Veículos como a Deutsche Welle, da Alemanha, e a VRT, da Bélgica, colocaram essas soluções à prova em situações reais.

“Os verificadores de factos e os jornalistas deparam-se com imagens suspeitas todos os dias”, diz Akis Papadopoulos, pesquisador do CERTH que trabalhou no projeto. Ele define a tecnologia como uma “primeira linha de defesa”: um meio de sinalizar rapidamente conteúdos possivelmente manipulados, sem substituir o julgamento humano.

“É importante dotar os jornalistas de toda a Europa - e a nível mundial - de ferramentas que os ajudem a identificar rapidamente material suspeito”, afirma.

Segundo o Observatório Europeu dos Meios de Comunicação Digitais - uma plataforma independente financiada pela UE que acompanha campanhas de desinformação em todos os países do bloco -, a desinformação gerada por IA tem crescido de forma constante nos últimos meses.

E o problema não se limita a golpes isolados. Ações coordenadas podem interferir em eleições, deformar o debate público e corroer a confiança nas instituições.

Detetar padrões de desinformação

Detectar conteúdo manipulado é apenas uma parte do desafio. Também é essencial entender como a desinformação se espalha: quem a impulsiona, de que modo as narrativas mudam ao longo do tempo e se há coordenação por trás das campanhas.

“Estamos num ciclo contínuo de tentativas de compreender e recuperar o atraso em relação à tecnologia mais recente”, diz Riccardo Gallotti, chefe da Unidade Comportamento Complexo da Fondazione Bruno Kessler (FBK).

Sediada em Trento, na Itália, a FBK é um centro de pesquisa reconhecido pelo trabalho em inovação digital, IA e estudo de sistemas sociais complexos. Em um projeto paralelo ao AI4Media - o AI4Trust, também financiado pela UE - a FBK se associou a universidades e organizações de mídia em vários países europeus para examinar a dinâmica mais ampla da desinformação online.

Entre os parceiros estão a Euractiv, da Bélgica, a Sky Italia e os serviços de checagem Maldita.es, da Espanha, Ellenika Hoaxes, da Grécia, e Demagog, da Polônia.

Enquanto o AI4Media priorizou a identificação de mídia manipulada e a integração de ferramentas de verificação no dia a dia das redações, o AI4Trust desenvolveu um sistema híbrido humano-máquina para acompanhar e analisar desinformação em grande escala.

A plataforma monitora diferentes redes sociais e sites de notícias quase em tempo real, usando algoritmos avançados de IA para processar conteúdos multilíngues e multimodais - texto, áudio e imagens.

Como o volume de material na internet excede, de longe, a capacidade humana, o sistema filtra e sinaliza publicações com alto risco de serem falsas. Depois, verificadores de fatos profissionais examinam o material e devolvem ao sistema suas avaliações confirmadas, para aprimorar o desempenho.

Os dois projetos se completam: um foca a detecção de conteúdo manipulado; o outro observa como esse conteúdo circula. Juntos, oferecem a visão micro e a visão macro necessárias para compreender e enfrentar a desinformação impulsionada por IA.

Uma corrida ao armamento

Usar IA para identificar IA pode soar irônico, mas a questão é séria.

“É cómico, de facto, mas é como uma corrida ao armamento”, diz Kompatsiaris.

Os modelos de IA generativa avançam em velocidade excepcional. Quando o AI4Media começou, ferramentas como o ChatGPT ainda estavam no início. Desde então, a qualidade e o realismo do conteúdo produzido por IA cresceram de forma drástica.

“Entrámos numa nova era em que é difícil para a mente humana acompanhar a aceleração”, afirma Papadopoulos. “Para acompanhar a evolução da IA, é necessário utilizar a IA.”

À medida que os modelos generativos ficam mais potentes, os sistemas de detecção precisam se ajustar continuamente. Para os pesquisadores, esse foi um dos obstáculos mais relevantes.

“A tecnologia progrediu a um ritmo tão rápido que até nós, enquanto investigadores, temos dificuldade em manter-nos a par”, explica Papadopoulos. “Tivemos de atualizar continuamente os nossos modelos para detetar imagens recém-geradas.”

A equipe automatizou etapas do processo de verificação e fez retreinamentos frequentes dos sistemas. Ainda assim, manter-se na linha de frente exige investimento contínuo - tanto em pesquisa quanto nas organizações de mídia que dependem dessas tecnologias.

O futuro da IA

Mesmo assim, tecnologia sozinha não resolve.

“Precisamos de ferramentas, mas também de políticas e regras”, afirma Kompatsiaris.

O Regulamento dos Serviços Digitais da UE determina que plataformas online muito grandes avaliem e reduzam riscos sistêmicos, inclusive a disseminação de desinformação, além de ampliar a transparência sobre como seus sistemas operam. Já o Regulamento da Inteligência Artificial estabelece obrigações de transparência para certos sistemas de IA generativa, incluindo exigências de identificação de conteúdos produzidos por IA.

Ao mesmo tempo, um projeto de código de conduta sobre transparência de conteúdo gerado por IA busca incentivar padrões mais claros de divulgação e de aplicação de marcas d’água.

Proteger o jornalismo independente é outra frente considerada prioritária. O Regulamento Europeu relativo à Liberdade dos Meios de Comunicação Social define salvaguardas para que conteúdos jornalísticos profissionais sejam reconhecidos e protegidos nas principais plataformas online.

Grandes plataformas precisam avisar veículos reconhecidos antes de remover conteúdo jornalístico e justificar o motivo, dando tempo para que as organizações respondam. A intenção é evitar a retirada de material legítimo sem fundamento.

Em conjunto, essas iniciativas e sistemas ampliam a proteção: a tecnologia aponta manipulações, a regulação fortalece transparência e responsabilização, e as salvaguardas defendem o jornalismo responsável.

A conscientização do público também é indispensável.

“Não existe uma solução única”, diz Kompatsiaris. “Para sermos mais eficazes no combate à desinformação, precisamos de uma combinação de ferramentas de IA, transparência, regulamentação e sensibilização.”

Este artigo foi inicialmente publicado na Horizon, a revista de investigação e inovação da UE.