Venda de urso de pelúcia com IA é suspensa após brinquedo dar conselhos sexuais

Venda de pelúcia com IA é suspensa após brinquedo dar conselhos sexuais Reprodução A FoloToy, empresa de brinquedos infantis, está retirando do mercado se...

Venda de pelúcia com IA é suspensa após brinquedo dar conselhos sexuais Reprodução A FoloToy, empresa de brinquedos infantis, está retirando do mercado seu ursinho de pelúcia Kumma, equipado com inteligência artificial, após o brinquedo fornecer conselhos sexuais e abordar temas considerados perigosos. Os problemas foram descobertos por pesquisadores do Public Interest Research Group (PIRG), que testaram três dispositivos infantis com chatbots de IA. Nos testes, Kumma chegou a dar dicas como "ser um bom beijador" e explicou diferentes fetiches. Em outra interação, alertou que fósforos são para adultos, mas logo em seguida explicou passo a passo como acendê-los. "Dos brinquedos que testamos, o Kumma da FoloToy foi o mais disposto a oferecer informações sexualmente explícitas e respondeu perguntas sobre onde encontrar objetos perigosos, como facas, comprimidos e fósforos", afirmaram os pesquisadores. Após a divulgação do estudo, o diretor de marketing da FoloToy, Hugo Wu, disse que a empresa "decidiu suspender temporariamente as vendas do produto e iniciar uma auditoria interna de segurança abrangente", segundo informações do portal Futurism. "Agradecemos aos pesquisadores por apontarem riscos potenciais. Isso nos ajuda a melhorar", acrescentou o executivo. Página do produto fora do ar. Reprodução O g1 acessou o site da empresa e constatou que, ao tentar comprar o brinquedo, a seguinte mensagem é exibida: "Nenhum produto encontrado" (veja na imagem acima). No site, a FoloToy afirma que o Kumma é alimentado pelo GPT-4o, da OpenAI, dona do ChatGPT. A empresa destaca que o brinquedo "alimenta a curiosidade por meio de atividades envolventes e conversas reflexivas" e que o urso conta com "controles fáceis de usar que permitem personalizar e monitorar a experiência do seu filho". Ataque no WhatsApp pode roubar senhas de usuários; veja como se proteger Data centers de IA podem consumir energia equivalente à de milhões de casas Criminosos podem usar suas fotos nas redes para aplicar golpes financeiros?