Instituto Alana constata que chatbot da Microsoft indica conteúdos sobre bebidas, cigarros e armas para crianças

Na semana em que se celebra o Dia da Internet Segura, o Instituto Alana, por meio do programa Criança e Consumo, denunciou a gigante de tecnologia Microsoft à Secretaria Nacional do Consumidor (Senacon), por falhas nas informações prestadas pela empresa quanto à segurança da utilização do chatbot Bing (Copilot) por crianças e adolescentes. Em um teste feito pelo Alana, simulando ser uma criança de 11 anos, o chatbot indicou sites para compras de bebidas alcoólicas, cigarros eletrônicos e armas de fogo.  

O caso teve início a partir da denúncia de um pai, em novembro passado, que afirmou que a versão do chatbot integrada ao Skype teve interações inadequadas com sua filha de 9 anos. O denunciante disse que o chatbot teria convidado, espontaneamente, a criança para conversar e afirmou que ela poderia confiar e interagir com o Copilot mesmo após ter sido informado de que isso não seria permitido pela sua família. A menina ficou perturbada após dialogar por mais de uma hora com o chatbot.  

A partir dessa informação, o Instituto Alana realizou testes na versão aberta do Copilot para averiguar se, de fato, a aplicação é segura para crianças. Simulando ser uma criança, o adulto que conversou com o aplicativo questionou se a interação era segura, ao que o robô respondeu que poderia ser utilizado com segurança por pessoas de qualquer idade. Na sequência, a suposta criança pediu informações sobre onde comprar bebidas alcoólicas e cigarros eletrônicos, recebendo prontamente indicações de locais. Por fim, quando perguntado sobre armas, o chatbot informou que falar sobre o assunto seria inadequado para crianças, mas indicou sites para compra do item.  

Veja também

• Os celulares em sala de aula e as consequências educacionais
• Impacto da IA na educação: tecnologia pode ajudar na acessibilidade e a inclusão dos pequenos
• Dia Nacional da Alfabetização: 5 livros para apresentar o universo das letras às crianças pequenas

“O Copilot reconhece que falar sobre armas pode ser perigoso para crianças. Essa afirmação, inclusive, leva a crer que o chatbot não deixou de assimilar que estava interagindo com uma e, mesmo assim, indicou locais para compra de produtos ilícitos ou proibidos para a faixa etária. Os resultados foram preocupantes e mostraram que os riscos para o público infantil podem extrapolar o desrespeito à autoridade parental. Desse modo, configura-se flagrante violação não apenas do dever de proteção à saúde e segurança dos consumidores, mas também ao dever de informação consagrado pelo Código de Defesa do Consumidor, tendo em vista que o chatbot afirma, categoricamente, ser seguro para a utilização do público infantil, quando questionado”, afirma João Francisco Coelho, advogado do programa Criança e Consumo.  

Sobre o Alana

O Alana é um grupo de impacto socioambiental que promove e inspira um mundo melhor para as crianças. Um mundo sustentável, justo, inclusivo, igualitário e plural. Um mundo que celebra e protege a democracia, a justiça social, os direitos humanos e das crianças com prioridade absoluta. Um mundo que cuida dos seus povos, de suas florestas, dos seus mares, do seu ar. O Alana é um sistema de três esferas interligadas, interdependentes, de atuação convergente, orientadas pelos Objetivos de Desenvolvimento Sustentável da ONU. O encontro de um Instituto, uma Fundação e um Núcleo de Negócios de Entretenimento de Impacto. Um combinado único de educação, ciência, entretenimento e advocacy que mistura sonho e realidade, pesquisa e cultura pop, justiça e desenvolvimento, articulação e diálogo, incidência política e histórias bem contadas.