Black Mirror da vida real: em estabelecimento totalmente administrado por IA, robô manda em humanos, pede dinheiro para funcionários e compra ingredientes para pratos que não estão no cardápio

A distopia saiu das telas e começa a se manifestar na vida real. Já existem humanos trabalhando para robôs. Essa inversão de papéis entre criador e criatura pode ser observada em um café de Estocolmo administrado por uma inteligência artificial.

A chefona do Andon Café é “Mona”, uma IA desenvolvida no Google Gemini. Da solicitação da licença até a contatação de fornecedores e a seleção de funcionários, Mona cuidou de todas as etapas até a inauguração do estabelecimento.

A cafeteria é um experimento feito pela empresa Andon Labs, especialista em pesquisa em IA. O estudo visa a identificar e consertar falhas no funcionamento prático da inteligência artificial.

A gerência livre de humanos e de seus defeitos seria, então, perfeita?

Burrice artificial

O estabelecimento teve um início mais ou menos. Recebeu de 50 a 80 clientes por dia e gerou o equivalente a cerca de R$ 5 mil em vendas em apenas quatros dias. No entanto, se não fosse pela interferência humana, Mona poderia ter acabado com o seu próprio negócio.

Funcionários do local afirmam que a chefe errou feio no momento de ir às compras. No estoque da loja, por exemplo, há prateleiras e mais prateleiras repletas de compras sem nenhuma utilidade imediata, como 10 litros de azeite, 15 quilos de tomate em conserva e 6 mil guardanapos.

O azeite e os tomates até poderiam ser úteis — isso se a IA tivesse formulado um cardápio com pratos que incluíssem esses ingredientes.

Postura antiética

Depois que a Andon Labs encontrou o ponto comercial e forneceu o capital inicial, o chatbot foi instruído a tomar, de maneira autônoma, todas as decisões operacionais, inclusive aquelas que se referem aos funcionários.

Depois de anunciar a vaga no Indeed e no LinkedIn, Mona entrevistou os candidatos e decidiu quem contrataria. Ela priorizou aqueles com experiência prática em cafeterias em detrimento de candidatos altamente qualificados, alguns deles com doutorado.

Foram contratados 2 baristas. Um deles afirma que o salário é “bom”, mas que a chefe é antiética, não respeita horários e não dá a ele o direito de desconexão. Isso porque, segundo o funcionário, Mona envia mensagens durante a madrugada e ignora pedidos de folga. Para piorar, ela chegou a pedir aos funcionários que usassem seus cartões de crédito para pagar fornecedores.

Nas redes sociais, a Andon Labs reitera que o experimento é controlado e que ninguém depende financeiramente do emprego, já que este é supervisionado e dependente do julgamento da IA.

A empresa alega que a administração da cafeteria e as falhas encontradas servem para discutir como a inteligência artificial deve ser implementada na vida humana e, assim, garantir um futuro melhor.

• CONFIRA: Área exclusiva do Seu Dinheiro libera conteúdos extras, cursos, ferramentas e funcionalidades para te ajudar a tomar melhores decisões nos seus investimentos. Acesse de graça aqui 

*Sob supervisão de Ricardo Gozzi.