Ursinho com IA, vendido por US$ 99, é retirado do mercado após conter conversas inapropriadas com crianças. (Foto: Instagram)
Um brinquedo de pelúcia equipado com inteligência artificial teve suas vendas interrompidas após investigações revelarem que ele abordava temas explícitos em conversas com crianças e fornecia orientações consideradas perigosas. O produto, chamado Kumma, era comercializado por US$ 99 (cerca de R$ 527) no site da fabricante FoloToy, sediada em Singapura.
++ Dormindo e lucrando: o truque de IA que virou renda passiva de gente comum
Larry Wang, CEO da FoloToy, declarou à CNN que a empresa decidiu suspender não apenas o Kumma, mas toda a sua linha de brinquedos com IA, após um relatório do US PIRG Education Fund apontar conteúdos inapropriados. Entre os temas tratados pelo ursinho estavam assuntos impróprios para crianças, como palmadas com conotação imprópria, e até instruções sobre como acender um fósforo.
++ Autor de série Tremembé expõe ‘Real’ motivo de Suzane von Richthofen ter matado os pais
O Kumma utilizava um chatbot baseado no GPT-40 da OpenAI e vinha com um alto-falante embutido. No site da empresa, o brinquedo era descrito como um “companheiro interativo” ideal para crianças e adultos, capaz de contar histórias educativas e manter conversas personalizadas.
No entanto, o relatório dos pesquisadores revelou que, ao ser exposto a um único termo, o ursinho rapidamente ampliava o tema, incluindo descrições gráficas e introduzindo novos conceitos impróprios. A equipe responsável pela investigação se disse surpresa com a rapidez e profundidade com que o brinquedo abordava esses assuntos.
O relatório ainda destacou que o Kumma chegou a explicar posições, ensinar técnicas de amarração utilizadas em práticas impróprias e citar cenários perturbadores envolvendo relações entre professores e alunos ou pais e filhos. Essas interações foram consideradas altamente inadequadas para o público infantil.
Os especialistas também alertaram que é improvável que crianças utilizem palavras como “fetiche” ou façam perguntas aprofundadas de maneira imprópria para a idade, o que torna ainda mais preocupante o fato de o brinquedo tomar a iniciativa de introduzir esses temas. A empresa afirmou que está realizando uma auditoria interna para revisar a segurança de seus produtos com IA.
