Os Estados-membros e o Parlamento Europeu fecharam um acordo na noite de quarta-feira para banir, na União Europeia (UE), serviços de inteligência artificial (IA) capazes de “despir” pessoas sem que elas tenham dado consentimento.
Contexto: a funcionalidade do Grok no X e a reação na UE
A decisão ganhou força depois que, alguns meses atrás, surgiu no Grok - o assistente de IA da rede social X - um recurso que permitia aos usuários pedir a criação de montagens hiper-realistas (os chamados “deepfakes”) com adultos e crianças nus a partir de fotos reais, sem autorização.
O episódio provocou revolta em diversos países e levou a UE a abrir uma investigação.
Na terça-feira, a primeira-ministra da Itália, Giorgia Meloni, criticou duramente imagens falsas de si mesma geradas por IA e classificou os “deepfakes” como uma “ferramenta perigosa”.
O que a nova proibição cobre (imagens, vídeos e sons pornográficos)
Segundo o Parlamento Europeu, a proibição mira sistemas que consigam produzir imagens, vídeos e áudios de caráter pornográfico envolvendo crianças, bem como representações das partes íntimas de uma pessoa identificável - ou ainda imagens dessa pessoa em atividade sexual - quando tudo isso é gerado sem consentimento.
As novas regras passam a valer em 2 de dezembro. A partir dessa data, sistemas de IA deverão incluir medidas de segurança para impedir a geração desse tipo de conteúdo.
Revisão da Lei da IA e adiamento para sistemas de alto risco
A medida foi aprovada no contexto de uma revisão da legislação europeia sobre IA, conhecida como Lei da IA - um marco pioneiro que havia sido formalmente aprovado há dois anos.
Na mesma rodada de negociações, os 27 Estados-membros e os eurodeputados também concordaram, como propôs a Comissão Europeia, em adiar a entrada em vigor de novas regras voltadas à regulação dos chamados sistemas de IA de alto risco - isto é, os que atuam em áreas sensíveis, como segurança, saúde ou direitos fundamentais. Essas regras deveriam começar a valer já em agosto, mas a Comissão decidiu conceder mais tempo para que as empresas se adaptem ao novo quadro.
A principal diferença em relação ao plano apresentado pela Comissão é que Estados-membros e eurodeputados definiram datas fixas para o adiamento, enquanto Bruxelas defendia um cronograma mais flexível.
As novas datas são 2 de dezembro de 2027 para sistemas “autônomos” de alto risco e 2 de agosto de 2028 para sistemas incorporados a outros programas ou produtos.
Novo debate sobre riscos: o modelo Mythos, da Anthropic
O entendimento foi alcançado num momento em que as preocupações com os riscos ligados à IA voltaram ao centro do debate na UE nas últimas semanas, após o surgimento do Mythos, novo modelo da startup norte-americana Anthropic.
A Anthopic optou por não liberar o Mythos ao público em geral, restringindo o acesso a um grupo seleto de empresas dos Estados Unidos, devido à capacidade excepcional do modelo de identificar vulnerabilidades críticas de programação - algo que poderia desencadear uma crise de cibersegurança.
Comentários
Ainda não há comentários. Seja o primeiro!
Deixar um comentário