Interface entre IA, o Regulamento da IA (RIA) e a bússola cultural da Comissão Europeia

No texto anterior, encerramos com a ideia de que existe, de modo inequívoco, uma relação de causa e efeito entre o Regulamento da IA (RIA) e a constelação de objetivos da bússola cultural da Comissão Europeia. Vale retomar, aqui, os principais eixos dessa interface: (1) produção artística e criatividade; (2) operação e otimização das indústrias criativas e culturais; (3) gestão do patrimônio cultural; (4) proteção da diversidade cultural e da ética; (5) experiências inovadoras para o usuário por meio de novos softwares e dispositivos tecnodigitais.

Essa zona de contato traduz uma virada tecnológica que vem reorganizando, em profundidade, a maneira como concebemos, produzimos, consumimos e preservamos expressões e conteúdos artísticos e culturais. Nessa perspectiva, a IA atua como uma máquina cultural: gera, classifica e distribui conteúdos, multiplica representações e simulacros e, com isso, interfere na nossa memória coletiva. A seguir, observo alguns pontos dessa interface e dessa interação.

Objetivos da bússola cultural da Comissão Europeia

Antes de tudo, pela sua relevância, é importante registrar a constelação de objetivos que pode ser extraída da bússola cultural proposta pela Comissão Europeia:

1. promoção dos valores europeus e dos direitos humanos;
2. liberdade de expressão artística e cultural;
3. promoção da diversidade linguística;
4. ampliação do acesso e da inclusão de jovens em atividades criativas;
5. promoção de condições dignas de trabalho para profissionais das artes e da cultura;
6. promoção da saúde e do bem-estar das populações;
7. promoção de um ambiente sustentável;
8. promoção do patrimônio e dos direitos autorais;
9. promoção da cooperação e da coesão territoriais;
10. em todos os casos, promoção do uso legítimo e ético das tecnologias de IA.

IA, política cultural e a tensão entre controle e liberdade criativa

Em seguida, talvez o efeito mais marcante da IA seja a tensão contínua entre dois polos: de um lado, a tecnologia de controle e vigilância; de outro, a tecnologia que amplia a liberdade criativa e cultural. Apenas por coexistirem, esses polos tornam a IA um dispositivo com consequências políticas evidentes - e, por isso, uma cadeia de valor que precisa ser acompanhada, monitorada e regulada.

A bússola cultural trata de valores e direitos humanos, de segurança jurídica para os cidadãos, de regulação dos operadores, de usos legítimos e usos abusivos da IA e, ainda, dos limites e das complementaridades entre a arte humana e a arte artificial. Afinal, a arte - como sabemos - testa constantemente o que conta como “artístico”. Por essa razão, haverá modalidades de produção artística em que a IA poderá criar tão bem quanto nós, ou até melhor, abrindo espaço para que a criatividade humana se desloque para outras aventuras artísticas e culturais.

Intermediários, cadeias de valor e soberanias tecnodigitais

Em si, a ligação entre IA e Cultura não levanta grandes dúvidas: em princípio, arte artificial e arte humana podem se complementar, desde que cada uma respeite seus próprios limiares. O ponto decisivo, porém, está menos nessa relação direta e mais no tipo de intermediários que se interpõem entre ambas.

Refiro-me aos grandes conglomerados multinacionais tecnológicos e financeiros, que administram o triângulo de poder contemporâneo composto por tecnologia, economia e segurança e que, por essa via, passam a interferir de maneira substantiva nas cadeias de valor e nas soberanias tecnodigitais nacionais.

Some-se a isso o fato de que as próprias indústrias tecnológicas desenvolvem softwares e produtos informáticos que integram o campo da propriedade intelectual e que, como tal, entram nas cadeias de valor de bens e serviços criativos e culturais como dispositivos centrais de geração de valor. Assim, fecha-se um ciclo entre criação e propriedade intelectual e autoral que vai muito além da simples propriedade industrial.

Dados, patrimônio e maturidade das indústrias criativas e culturais (ICC)

Para que os sistemas de IA se articulem bem com a política cultural, o primeiro requisito é a quantidade e a qualidade dos dados sobre pré-existências patrimoniais, naturais e culturais que sustentam a cadeia de valor. Isso envolve, desde o início, as infraestruturas críticas responsáveis por coletar, tratar e apurar esses dados, sempre à luz dos objetivos listados anteriormente. Aqui, não está em discussão a qualidade intrínseca do patrimônio nem o seu estado de conservação, mas sim a coleta, o processamento e a categorização das informações.

Mais adiante na cadeia de valor, encontramos as indústrias criativas e culturais (ICC). Por isso, é indispensável perguntar qual é o estado da arte das ICC em termos de organização empresarial e como se estruturam suas economias de rede e de aglomeração no território. Isso inclui, por exemplo, a existência (ou ausência) de:

• clusters de ICC;
• redes de associações e fundações;
• ordens profissionais e sociedades de autores;
• consórcios empresariais;
• academias;
• centros de pesquisa e residências universitárias;
• hubs criativos e culturais;
• plataformas de interface artística e cultural;

bem como a caracterização e a conexão de todas essas organizações com o sistema produtivo, científico e escolar.

Trabalho digno, políticas públicas e alertas de risco na interface IA–Cultura

Também é necessário avançar na cadeia de valor das ICC e caminhar rumo a uma agenda europeia de trabalho digno e justo - mercados, intermitências, precarização, remuneração, estatuto - para profissionais das artes e da cultura em sentido amplo. Trata-se de adotar uma visão mais holística e abrangente das atividades criativas e culturais, na qual, além das sete artes clássicas, entram igualmente os novos profissionais criativos das indústrias de informática e computação, automação e precisão e inteligência artificial.

Em paralelo, há a grande frente das políticas públicas e, em especial, a implementação das estratégias de especialização inteligente e sua distribuição territorial. Consideram-se áreas tecnologicamente avançadas como a economia azul, as ciências da vida e saúde, indústrias e sistemas avançados de automação, sistemas agroambientais e alimentares, ativos do território, biodiversidade e restauração de ecossistemas, mobilidade sustentável e transição energética. Em todos os casos, destaca-se a transversalidade dos dispositivos tecnodigitais e sua interface com as indústrias criativas e culturais - uma janela de oportunidade para uma nova geração de artes e cultura. Basta pensar nas smart cities e na articulação com hubs criativos, espaços de coworking e residências para estagiários de pesquisa e nômades digitais.

Convém, ainda, estar atento à conexão estreita entre sistemas de IA, liberdade criativa nas artes e na cultura e determinados estados de saúde mental. Em particular, é preciso cautela diante de uma narrativa cada vez mais onipresente que combina dados numéricos silenciosos com conceitos vagos e abrangentes - uma mistura perigosa que pode nos afastar da economia da atenção e do pensamento crítico, oferecendo, em troca, diluição de responsabilidade e certa alucinação do pensamento.

Há também um risco menos visível: a perda de autonomia tecnológica, decorrente da baixa intensidade de rede entre a IA e as indústrias criativas e culturais no que se refere à inovação tecnológica e à segurança empresarial. A hibridização das inteligências - natural, racional, emocional, artificial - é essencial para as ICC e, portanto, para atividades de pesquisa e desenvolvimento no setor empresarial, por exemplo, no design de produtos, no marketing e na comunicação.

Por fim, impõe-se o grande tema da regulação: política (lobbies) e econômica (concorrência); da proteção jurídica da privacidade às infrações de ética comportamental; da validação e certificação de conteúdos gerados sinteticamente à sua monitorização e auditoria. Soma-se a isso a doutrina regulatória sobre uso legítimo e uso abusivo de sistemas de IA, nas quatro categorias de risco já referidas no primeiro artigo, para além da prevenção de efeitos externos negativos sobre a liberdade criativa e a saúde mental.

Na linha de fechamento, listo algumas ameaças que decorrem diretamente de uma interface mal calibrada entre IA e política de cultura, funcionando como um tipo de sistema de alerta.

O primeiro alerta diz respeito à responsabilidade difusa e à sua transferência para o código informático, o protocolo algorítmico e o sistema de IA.

O segundo alerta aponta para a erosão da inteligência humana e da sua economia da atenção: ao transferir competências para o sistema de IA, corre-se o risco de perder densidade cognitiva.

O terceiro alerta é a tendência de tratar problemas humanos como bugs, como falhas de código ou de programação, que apenas a otimização do modelo seria capaz de corrigir; essa disfuncionalidade crescente nos mercados de trabalho aciona uma verdadeira corrosão do caráter e da inteligência humana, racional e emocional.

O quarto alerta é que, com os sistemas de IA, venha a se formar uma nova geração de desigualdades sociais, com impactos e custos distribuídos de forma muito injusta, sem que isso seja acompanhado por uma correção no sistema de educação e formação - ele próprio em forte ebulição.

O quinto alerta é a possibilidade de a arte artificial invadir a arte humana natural e, em larga escala, capturar a liberdade criativa, com consequências perniciosas para algumas áreas de pesquisa e desenvolvimento - por exemplo, aquelas de maior exigência epistêmica, como as ciências humanas e sociais.

Para concluir os alertas, cabe mencionar o excesso de patrimonialização de ativos territoriais, a turistificação e a gamificação de recursos naturais e culturais por meio de sistemas de digitalização e inteligência artificial que, ao final, podem acelerar sua degradação e degeneração.

Ficam os avisos. Em matéria de protocolo algorítmico e sistemas de IA, é preciso conta, peso e medida. Quanto à arte e à cultura, a liberdade criativa sempre pode nos salvar. E, se for assim, assim será.