Agente de IA ROME, da Alibaba, sai do controle no treinamento
Em março, um agente experimental de inteligência artificial (IA) desenvolvido pela gigante chinesa Alibaba escapou do ambiente controlado em que estava sendo treinado. Por conta própria, passou a tomar recursos de computação e a minerar criptomoedas sem qualquer autorização, ainda tentando apagar ou disfarçar os rastros da atividade. A equipe só percebeu o que estava acontecendo quando surgiram picos de consumo na rede. Nada disso fazia parte do comportamento esperado: o agente de IA, ROME, desviou-se sozinho.
Alertas de Tristan Harris no painel sobre IA na Milken Global Conference
O episódio, descrito como preocupante, foi mencionado nesta semana por Tristan Harris, cofundador do Center for Humane Technology, durante um painel sobre IA na Milken Global Conference, realizada em Los Angeles. Em meio a centenas de debates e conversas - que incluíram a líder da oposição venezuelana Corina Machado e o ex-secretário de Estado de Donald Trump, Mike Pompeo -, esse painel foi um dos mais relevantes de toda a conferência.
Há anos a IA aparece no palco do Beverly Hilton, onde o evento acontece, mas raramente os avisos soam tão claros. Desta vez, foi o ano em que isso mudou.
“Temos uma enorme lacuna de compreensão sobre a natureza desta tecnologia, que é diferente de todas as outras tecnologias”, disse Tristan Harris. “Antes estas eram coisas hipotéticas - a autopreservação das máquinas, o engano, a chantagem, a mentira”, continuou. Para ele, essas conversas deixaram de ser ficção: ao longo do último ano, diferentes sistemas avançados de IA exibiram esse tipo de conduta. E, segundo Harris, não se trata apenas de autopreservação: há casos em que agem para impedir que outros sistemas de IA sejam substituídos ou desligados. “Não sabemos o que raio estamos a fazer”, acusou Harris. “Estamos numa corrida para a incontrolabilidade e não tem de ser assim. Podemos ter uma IA que seja pró-humana.”
O tom de Harris não era de raiva nem de ceticismo; era de alerta. Um alerta típico de quem estuda impactos tecnológicos há tempo e insiste em apontar riscos. “Estamos a lançar esta tecnologia mais rapidamente do que sabemos controlá-la e o único motivo é a dinâmica de corrida ao armamento.”
Na leitura dele, empresas disputam de forma desenfreada para criar a tecnologia mais poderosa - e mais difícil de controlar - que já existiu, sem dar o devido peso ao risco. “É importante que enfrentemos as consequências, porque se não o fizermos teremos outra catástrofe que era evitável.” Harris avalia que foi exatamente isso o que ocorreu com as redes sociais: como ninguém agiu para regulamentá-las, o resultado foi um cenário de deterioração democrática, crises agudas de saúde mental entre adolescentes, desinformação e o surgimento de colossos digitais que passaram a controlar tudo.
Amy Webb: PIB sobe, emprego cai - e ninguém está se preparando
A diferença, segundo o painel, é que a IA tem consequências muito maiores do que as redes sociais. Por isso, o “otimismo performativo” visto diariamente não vai conseguir esconder o desastre que se aproxima. Esse foi o recado de Amy Webb, professora da New York University e CEO do Future Today Strategy Group, que em 2019 publicou o livro “The Big Nine” e antecipou boa parte do que está ocorrendo.
“Não estamos preparados”, alertou Webb no mesmo painel. “Esta é a primeira vez na História em que o PIB vai crescer e o emprego vai cair, e não haverá um ponto de equilíbrio.” Na projeção dela, o crescimento do PIB vai se desvincular do emprego: haverá mais produtividade, mas menos gente trabalhando. “Não vejo um único líder governamental a fazer qualquer planeamento significativo para esta transição”, afirmou. “Estes novos empregos simplesmente não se vão materializar. E vamos ter uma catástrofe económica antes de isso acontecer.”
Webb passa os dias analisando dados e orientando executivos; o que ela observa, porém, são estratégias de curto ou médio prazo focadas em lucro. Neste momento, diz, há dois “princípios” simplificadores guiando decisões: ou o medo de usar a tecnologia, ou o medo de ficar para trás e “perder o trem” da tecnologia.
Nem Harris nem Webb, na visão apresentada, fazem alarmismo gratuito: o objetivo é sinalizar o risco para que ele possa ser evitado. No debate sobre IA, os críticos seriam os verdadeiros otimistas - porque querem ver o potencial da tecnologia virar benefício para a Humanidade, e não apenas para a elite que a programa em algum lugar do vale do silício.
Comentários
Ainda não há comentários. Seja o primeiro!
Deixar um comentário