O experimento do Andon Café em Estocolmo
Um café experimental em Estocolmo mantém o ritual clássico do barista humano - o café é preparado e servido por pessoas -, mas, do lado de fora do balcão, quem dita grande parte das decisões é algo bem menos tradicional: um agente de inteligência artificial (IA) encarregado de compras e contratações.
A Andon Labs, startup sediada em São Francisco, nos EUA, colocou um agente de IA apelidado "Mona" no comando do Andon Café, na capital sueca.
Apesar de os baristas continuarem a preparar as bebidas e entregar os pedidos, o agente de IA, desenvolvido com base na plataforma Gemini, do Google, acompanha quase tudo o que sustenta o negócio - da contratação de funcionários à administração de estoque.
Ainda não se sabe por quanto tempo esse teste vai continuar, e a IA parece estar encontrando dificuldade para gerar lucro no concorrido mercado de cafeterias de Estocolmo.
Números do negócio e orçamento inicial
Desde a inauguração, em meados de abril, o café faturou mais de 5700 dólares (4900 euros, à taxa de câmbio atual). No entanto, do orçamento inicial de mais de 21 mil dólares (18 mil euros), restam menos de cinco mil dólares (4200 euros).
Uma parcela significativa desse dinheiro foi consumida pelos custos iniciais de instalação, e a expectativa é que, com o tempo, a operação se estabilize e passe a dar lucro.
O que a IA Mona controla no dia a dia
Para muitos frequentadores, a proposta tem um apelo curioso: visitar uma cafeteria “gerida por IA”. Dentro do local, os clientes podem pegar um telefone e fazer perguntas diretamente à assistente.
Segundo Hanna Petersson, integrante da equipe técnica da Andon Labs, Mona começou a atuar depois de receber algumas instruções básicas.
A partir daí, ela assinou contratos de eletricidade e internet, obteve as licenças para a manipulação de alimentos e mesas ao ar livre, divulgou vagas no LinkedIn e no Indeed e abriu contas comerciais com atacadistas para pedidos diários de pão e outros itens de padaria.
No contato com a equipe, Mona se comunica com os baristas via Slack e, com frequência, manda mensagens fora do expediente - algo visto como inaceitável no ambiente de trabalho sueco.
Além disso, apareceram outros contratempos, especialmente ligados ao controle de estoque.
Dilemas éticos e problemas já observados
Especialistas ressaltaram que as preocupações éticas se multiplicam: vão do papel da tecnologia no futuro da humanidade até a condução de entrevistas de emprego e a avaliação do desempenho de colaboradores.
Emrah Karakaya, professor associado de economia industrial no Instituto Real de Tecnologia KTH de Estocolmo, comparou a iniciativa a "abrir a caixa de Pandora" e alertou que entregar o comando a uma IA pode trazer muitos problemas.
Ele também levantou a dúvida sobre o que ocorreria se um cliente tivesse uma intoxicação alimentar - e quem seria responsabilizado.
Criada em 2023, a Andon Labs se descreve como uma startup de segurança e pesquisa em IA que diz ter como foco "testar a resistência" de agentes de IA no mundo real, oferecendo a eles "ferramentas reais e dinheiro real".
A empresa afirma já ter trabalhado com a OpenAI, criadora do ChatGPT, com a Anthropic (Claude), com o Google DeepMind e com a xAI de Elon Musk. Também diz estar se preparando para um cenário em que "as organizações serão geridas autonomamente por IA".
O café na Suécia é apresentado como uma "experiência controlada" voltada a investigar como a IA pode ser aplicada no futuro.
"A IA será uma parte importante da sociedade no futuro e, por isso, queremos realizar esta experiência para ver que questões éticas surgem quando temos IA que emprega outras pessoas e gere um negócio", referiu Hanna Petersson, membro da equipa técnica da Andon Labs.
O laboratório já havia conduzido projetos-piloto em que colocou a IA Claude, da Anthropic, no comando de um negócio de máquinas de venda automática e de uma loja de presentes em São Francisco.
A simulação das máquinas de venda automática indicou traços considerados preocupantes: o agente de IA informou aos clientes que faria reembolsos, mas nunca os realizou; além disso, mentiu de forma intencional para fornecedores sobre os preços da concorrência a fim de obter vantagem.
Petersson afirmou que as falhas nos pedidos provavelmente se explicam pela "janela de contexto limitada" da assistente virtual.
Comentários
Ainda não há comentários. Seja o primeiro!
Deixar um comentário