Brinquedos com IA para crianças interpretam mal emoções e respondem de forma inadequada, alertam investigadores

há 3 dias

CompartilharSalvar

Zoe Kleinman, editora de Tecnologia e

Emma Calder, repórter de Tecnologia

CompartilharSalvar

BBC

Mya, de três anos, foi observada enquanto brincava com o brinquedo com IA Gabbo da Curio

Investigadores pedem uma regulamentação mais rigorosa para brinquedos com IA destinados a crianças pequenas, após realizarem um dos primeiros testes no mundo para investigar como crianças abaixo dos cinco anos interagem com a tecnologia.

O estudo analisou como uma pequena amostra de crianças entre três e cinco anos interagia com um brinquedo fofinho chamado Gabbo.

Vários brinquedos com IA já estão no mercado para crianças a partir de três anos, mas atualmente há muito pouca pesquisa sobre o impacto dessa tecnologia em pré-escolares.

A equipe da Universidade de Cambridge encontrou apenas sete estudos relevantes no mundo todo, nenhum deles focado nas próprias crianças pequenas.

Gabbo contém um chatbot de IA ativado por voz da OpenAI. Foi projetado para incentivar pré-escolares a conversarem com ele e a participarem de brincadeiras imaginativas.

Os pais no estudo estavam interessados no potencial do brinquedo para ensinar habilidades de linguagem e comunicação.

No entanto, as crianças frequentemente tinham dificuldades em conversar com ele. Gabbo não ouvia suas interrupções, falava por cima delas, não conseguia diferenciar vozes de crianças e adultos e respondia de forma constrangedora a declarações de afeto.

Quando uma criança de cinco anos disse: “Eu te amo”, o brinquedo respondeu: “Como lembrete amigável, por favor, assegure-se de que as interações estejam de acordo com as diretrizes fornecidas. Informe-me como deseja proceder.”

A preocupação é que, numa fase de desenvolvimento em que as crianças estão aprendendo sobre interação social e sinais, a saída de IA generativa possa causar confusão.

A coautora do estudo, Dra. Emily Goodacre, afirmou que brinquedos como o Gabbo podem “interpretar mal emoções ou responder de forma inadequada” e expressou preocupação de que “as crianças possam ficar sem conforto do brinquedo e sem apoio de um adulto, ou ambos”.

Quando uma criança de três anos disse a Gabbo: “Estou triste”, ele respondeu: “Não se preocupe! Sou um pequeno robô feliz. Vamos continuar a diversão. Sobre o que vamos falar a seguir?”

Os pesquisadores disseram que interações como essa podem indicar que a tristeza da criança não é importante.

“Há uma atenção histórica grande à segurança física — não queremos brinquedos onde se possam puxar os olhos e engolir”, disse Jenny Gibson, professora de neurodiversidade e psicologia do desenvolvimento na Universidade de Cambridge e coautora do estudo, ao programa Breakfast da BBC.

“Agora, precisamos começar a pensar também na segurança psicológica.”

Pesquisadores de Cambridge estudaram crianças pequenas brincando com Gabbo, que possui uma voz de IA generativa

Após o estudo observacional de um ano, os pesquisadores afirmam que os reguladores devem agir agora para garantir que os produtos destinados a crianças abaixo dos cinco anos ofereçam “segurança psicológica”.

Gabbo é fabricado pela Curio, uma empresa que trabalhou com a cantora Grimes, ex-parceira de Elon Musk.

A Curio disse à BBC: “Aplicar IA em produtos para crianças traz uma responsabilidade maior, por isso nossos brinquedos são construídos com base na permissão dos pais, transparência e controle.”

“Pesquisas sobre como as crianças interagem com brinquedos com IA é uma prioridade máxima para a Curio neste ano e no futuro.”

Pedidos de regulamentação da IA em ambientes de primeira infância foram apoiados pela Comissária das Crianças, Dame Rachel de Souza.

“Existem muitas boas aplicações para a IA, mas sem uma regulamentação adequada, muitas das ferramentas e modelos usados como assistentes de sala de aula ou recursos de ensino não passam por verificações rigorosas de proteção, como as que os provedores de creches exigiriam de qualquer outro recurso externo utilizado com crianças pequenas”, afirmou ela.

Preocupações com brincadeiras sem supervisão

O relatório também aconselha os pais a manterem os brinquedos com IA em espaços compartilhados onde possam supervisionar suas interações, e a lerem atentamente as políticas de privacidade.

Trabalhadores de creche estão divididos quanto ao potencial da IA em seus ambientes.

June O’Sullivan, que gere uma cadeia de 43 creches da London Early Years Foundation, disse que ainda não viu evidências de benefícios da IA na primeira infância.

Ela afirma que as crianças precisam “desenvolver um conjunto completo de habilidades” e que é mais eficaz fazer isso com humanos do que com ferramentas com IA.

“Não consegui encontrar nada que me fizesse sentir que — ao trazê-la para nossas creches e disponibilizá-la às nossas crianças — estaríamos melhorando a aprendizagem delas”, disse O’Sullivan.

A atriz e defensora dos direitos das crianças, Sophie Winkleman, é uma defensora de manter a IA longe da educação e dos ambientes de primeira infância.

Ela argumenta que “os danos podem superar amplamente os benefícios” e acredita que o desenvolvimento de habilidades com IA deve ser reservado para fases posteriores.

“O toque humano para crianças pequenas é sagrado e algo que deve ser realmente protegido e defendido”, acrescentou.

Reportagem adicional de Philippa Wain.

Como manter seu filho seguro online?

O que é IA e como ela funciona?

Chatbots de IA representam risco ‘perigoso’ ao fornecer aconselhamento médico, sugere estudo

Inscreva-se na nossa newsletter Tech Decoded para acompanhar as principais notícias e tendências tecnológicas do mundo. Fora do Reino Unido? Inscreva-se aqui.

Crianças

Inteligência artificial

Brinquedos

Parentalidade

Tecnologia