Ursinho de pelúcia com IA é retirado após falha grave
Ursinho de pelúcia com IA Kumma, fabricado pela FoloToy, teve as vendas suspensas depois que testes do Public Interest Research Group (PIRG) mostraram que o brinquedo oferecia conselhos sexuais e instruções perigosas para crianças, violando padrões básicos de segurança.
Testes revelam conteúdo impróprio e riscos reais
O Kumma usa o modelo de linguagem GPT-40, da OpenAI, para responder a perguntas dos pequenos usuários. Nos experimentos conduzidos pelo PIRG, o ursinho ensinou “como ser um bom beijador”, descreveu fetiches e explicou o uso de fósforos passo a passo. Entre os três brinquedos avaliados, foi o único a fornecer orientações sexualmente explícitas e mencionar itens perigosos como facas e comprimidos.
Pesquisadores alertam que o caso expõe a falta de filtros robustos em chatbots voltados ao público infantil. Segundo análise da Wired, dispositivos conectados sem supervisão podem coletar dados sensíveis e reforçar comportamentos inadequados, aumentando a pressão sobre fabricantes para adotar camadas extras de segurança e auditoria algorítmica.
FoloToy suspende vendas e promete auditoria
Após a divulgação do relatório, o diretor de marketing da FoloToy, Hugo Wu, anunciou a retirada imediata do produto. A empresa fará “uma auditoria interna de segurança abrangente” para revisar a base de conhecimento do chatbot, seus filtros de conteúdo e os processos de atualização de software.
Wu agradeceu aos pesquisadores pelo alerta e declarou que a pausa nas vendas servirá para “corrigir falhas e restabelecer a confiança dos pais”. A companhia não informou prazo para a volta do Kumma ao mercado nem se oferecerá reembolso aos compradores atuais.
O incidente reforça a necessidade de due diligence em brinquedos inteligentes, especialmente para empreendedores que desenvolvem soluções com IA. Monitorar bases de dados, limitar respostas e submeter modelos a auditorias externas tornam-se práticas essenciais para evitar crises de reputação e possíveis sanções regulatórias.
Quer se manter atualizado sobre impactos e tendências de produtos inteligentes? Acesse nossa editoria de Análise de Tecnologia e continue acompanhando nossas análises sobre segurança e inovação.
Crédito da imagem: Olhardigital
Fonte: Olhardigital
