Governo vê riscos de manipulação emocional e coleta de dados em brinquedos com IA vendidos no Brasil
Reprodução
Brinquedos com inteligência artificial vendidos no Brasil podem representar riscos para crianças, como manipulação emocional e coleta de dados pessoais, segundo uma nota técnica publicada neste mês pela Secretaria Nacional de Direitos Digitais (Sedigi), do Ministério da Justiça e Segurança Pública (MJSP).
O estudo, que contou com a participação de pesquisadores da Universidade Federal Rural de Pernambuco (UFRPE), afirma que esses produtos podem estar em desacordo com regras previstas no ECA Digital e recomenda que as irregularidades sejam apuradas pelos órgãos responsáveis.
🗒️ Tem alguma sugestão de reportagem? Mande para o g1
O Sedigi pede que a Secretaria Nacional do Consumidor (Senacon) e a Autoridade Nacional de Proteção de Dados (ANPD) fiscalizem, entre outros pontos, se fabricantes e lojas informam corretamente os riscos desses produtos e como é feito o tratamento dos dados pessoais coletados pelos brinquedos.
Para elaborar o estudo, a Sedigi analisou seis dispositivos vendidos no Brasil por meio de marketplaces como Amazon, Mercado Livre, Shopee, AliExpress, Magazine Luiza, eBay e Casas Bahia. Os aparelhos são:
Loona (pet robótico);
EMO (robô de companhia);
Miko 3 (robô educativo);
Aibi (pet robótico de bolso);
Amazon Fire HD Kid Pro (tablet voltado a crianças de 6 a 12 anos);
e Vector (robô autônomo).
Agora no g1
Manipulação emocional e coleta de dados
Segundo a nota técnica, esses dispositivos costumam ter câmeras, microfones e outros sensores capazes de captar informações como biometria facial, voz e até características do ambiente doméstico.
Ao mesmo tempo, usam IA para manter conversas, simular emoções e adaptar suas respostas ao comportamento da criança, coletando dados continuamente durante a interação.
O documento afirma que esse tipo de vínculo pode favorecer a manipulação emocional e incentivar o uso excessivo dos brinquedos.
“Os vínculos estabelecidos com a criança, além de facilitar a manipulação emocional, podem incentivar o uso excessivo do brinquedo e potencialmente expor informações sensíveis a terceiros, sobretudo se houver falhas de segurança”, diz a nota.
EMO é um robô infantil com IA que é vendido por R$ 3.084,23 no Brasil.
Reprodução/Amazon
A nota também cita como exemplo casos internacionais considerados preocupantes. Um deles é o da boneca My Friend Cayla, proibida na Alemanha após autoridades concluírem que ela podia gravar conversas acessadas por terceiros, levando o brinquedo a ser apelidado de “instrumento de espionagem”.
O documento também menciona casos de vazamento de áudios de crianças envolvendo o robô Miko 3.
Um dos aparelhos analisados pelo MJSP é o brinquedo Loona, um pet robótico que simula um animal de estimação. O brinquedo utiliza processamento de linguagem natural para entender comandos de voz, é integrado ao ChatGPT, conta com sensores para mapear a casa e usa uma câmera para reconhecer os usuários.
Em relação às plataformas de comércio eletrônico, o Ministério da Justiça afirma que elas também têm responsabilidade sobre a venda desses produtos.
Segundo a pasta, os sites devem informar de forma clara que o brinquedo utiliza IA e garantir que as embalagens e páginas de venda tragam avisos sobre o acesso à internet, os riscos à privacidade e a necessidade de supervisão parental.
“Os fatos relatados apontam para indícios de possíveis irregularidades, de caráter sistêmico, com potencial de afetar direitos fundamentais de crianças e adolescentes, o que recomenda apuração formal”, conclui a nota.
WhatsApp ganha nomes de usuário e vai dispensar número para começar conversa
Homem processa OpenAI e diz que ChatGPT reforçou delírio de que era Jesus Cristo
Reprodução
Brinquedos com inteligência artificial vendidos no Brasil podem representar riscos para crianças, como manipulação emocional e coleta de dados pessoais, segundo uma nota técnica publicada neste mês pela Secretaria Nacional de Direitos Digitais (Sedigi), do Ministério da Justiça e Segurança Pública (MJSP).
O estudo, que contou com a participação de pesquisadores da Universidade Federal Rural de Pernambuco (UFRPE), afirma que esses produtos podem estar em desacordo com regras previstas no ECA Digital e recomenda que as irregularidades sejam apuradas pelos órgãos responsáveis.
🗒️ Tem alguma sugestão de reportagem? Mande para o g1
O Sedigi pede que a Secretaria Nacional do Consumidor (Senacon) e a Autoridade Nacional de Proteção de Dados (ANPD) fiscalizem, entre outros pontos, se fabricantes e lojas informam corretamente os riscos desses produtos e como é feito o tratamento dos dados pessoais coletados pelos brinquedos.
Para elaborar o estudo, a Sedigi analisou seis dispositivos vendidos no Brasil por meio de marketplaces como Amazon, Mercado Livre, Shopee, AliExpress, Magazine Luiza, eBay e Casas Bahia. Os aparelhos são:
Loona (pet robótico);
EMO (robô de companhia);
Miko 3 (robô educativo);
Aibi (pet robótico de bolso);
Amazon Fire HD Kid Pro (tablet voltado a crianças de 6 a 12 anos);
e Vector (robô autônomo).
Agora no g1
Manipulação emocional e coleta de dados
Segundo a nota técnica, esses dispositivos costumam ter câmeras, microfones e outros sensores capazes de captar informações como biometria facial, voz e até características do ambiente doméstico.
Ao mesmo tempo, usam IA para manter conversas, simular emoções e adaptar suas respostas ao comportamento da criança, coletando dados continuamente durante a interação.
O documento afirma que esse tipo de vínculo pode favorecer a manipulação emocional e incentivar o uso excessivo dos brinquedos.
“Os vínculos estabelecidos com a criança, além de facilitar a manipulação emocional, podem incentivar o uso excessivo do brinquedo e potencialmente expor informações sensíveis a terceiros, sobretudo se houver falhas de segurança”, diz a nota.
EMO é um robô infantil com IA que é vendido por R$ 3.084,23 no Brasil.
Reprodução/Amazon
A nota também cita como exemplo casos internacionais considerados preocupantes. Um deles é o da boneca My Friend Cayla, proibida na Alemanha após autoridades concluírem que ela podia gravar conversas acessadas por terceiros, levando o brinquedo a ser apelidado de “instrumento de espionagem”.
O documento também menciona casos de vazamento de áudios de crianças envolvendo o robô Miko 3.
Um dos aparelhos analisados pelo MJSP é o brinquedo Loona, um pet robótico que simula um animal de estimação. O brinquedo utiliza processamento de linguagem natural para entender comandos de voz, é integrado ao ChatGPT, conta com sensores para mapear a casa e usa uma câmera para reconhecer os usuários.
Em relação às plataformas de comércio eletrônico, o Ministério da Justiça afirma que elas também têm responsabilidade sobre a venda desses produtos.
Segundo a pasta, os sites devem informar de forma clara que o brinquedo utiliza IA e garantir que as embalagens e páginas de venda tragam avisos sobre o acesso à internet, os riscos à privacidade e a necessidade de supervisão parental.
“Os fatos relatados apontam para indícios de possíveis irregularidades, de caráter sistêmico, com potencial de afetar direitos fundamentais de crianças e adolescentes, o que recomenda apuração formal”, conclui a nota.
WhatsApp ganha nomes de usuário e vai dispensar número para começar conversa
Homem processa OpenAI e diz que ChatGPT reforçou delírio de que era Jesus Cristo