As principais empresas de inteligência artificial podem ter políticas de idade em vigor para restringir o uso de seus modelos por crianças, mas isso não está a impedir um número crescente de fabricantes de usar chatbots de inteligência artificial (IA) generativa em brinquedos vendidos globalmente que, então, se comportaram de “maneiras profundamente preocupantes”, descobriu um grupo de vigilância.
Dezenas de brinquedos à venda online são alimentados por chatbots criados pela OpenAI, Anthropic, Google e xAI, apesar das proibições das empresas quanto ao uso de IA por crianças, de acordo com um novo relatório do Fundo de Educação do Grupo de Pesquisa de Interesse Público dos EUA (PIRG).
O relatório descobriu que os fabricantes têm fácil acesso a modelos como ChatGPT e Llama e, embora as empresas de IA tenham regras para estas empresas, não parece que elas estejam a ser cumpridas.
Quando a PIRG se apresentou como um grupo de criadores que queria usar chatbots de cinco grandes empresas no desenvolvimento de brinquedos, a Google, a Meta, a OpenAI e a xAI não fizeram perguntas importantes sobre como o produto seria usado. A Anthropic perguntou se a sua IA seria usada para criar um produto para menores, mas não tem uma política contra isso.
O Google, por exemplo, proíbe expressamente que o seu chatbot Gemini seja usado em produtos infantis, mas a PIRG ainda encontrou IA a ser usada em brinquedos como o “Bubblepal”, que supostamente vendeu mais de 200 mil unidades na China, um brinquedo que se mostra desiludido quando uma criança tenta parar de brincar com ele.
Um brinquedo chamado “Poe the AI Story Bear” usa o software Anthropic, apesar de limitar o uso do Claude a utilizadores com 18 anos ou mais, e o Grok da xAI, que é limitado a utilizadores com mais de 13 anos, é usado num brinquedo chamado “GUGU Owl AI Pet”, de acordo com a PIRG.
Texto original aqui. Artigo traduzido e editado por Rita Meireles.
