Ferramenta gratuita da rede social X tem sido usada para criar imagens íntimas falsas
A Comissão Europeia iniciou uma investigação sobre o chatbot de inteligência artificial Grok, de Elon Musk, devido à produção de imagens explícitas, informou Regina Doherty, deputada europeia da Irlanda, em declaração nesta segunda-feira (26).
Segundo a parlamentar, a investigação avaliará se a X cumpriu suas obrigações previstas na legislação digital da União Europeia, incluindo requisitos relacionados à mitigação de riscos, governança de conteúdo e proteção de direitos fundamentais.
O caso pode gerar tensão com a administração do presidente dos Estados Unidos, Donald Trump, já que a repressão da União Europeia às grandes empresas de tecnologia provocou críticas e até ameaças de tarifas vindas dos EUA.
LEIA TAMBÉM: ‘Sentimento horrível. Me sinto suja’, diz brasileira vítima de foto editada de biquíni pelo Grok, IA de Musk
Conta no X vem publicando imagens de outras mulheres e pedindo para o Grok deixar elas seminuas.
Reprodução/X
A Comissão Europeia não respondeu de imediato ao ser questionada sobre a abertura formal da investigação. A X também não se manifestou sobre o assunto até a publicação desta reportagem.
“Este caso levanta questões muito sérias sobre se as plataformas estão cumprindo suas obrigações legais de avaliar riscos corretamente e impedir que conteúdos ilegais e prejudiciais se espalhem”, disse Doherty em comunicado enviado por e-mail.
Mais cedo neste mês, a Comissão havia considerado ilegais e repugnantes imagens geradas por IA de mulheres e crianças sem roupa compartilhadas na X, acompanhando a condenação internacional.
A xAI, empresa de inteligência artificial de Musk, informou em meados de janeiro que implementou ajustes para impedir que a conta Grok “permitisse a edição de imagens de pessoas reais com roupas reveladoras, como biquínis”.
Foi vítima da “trend do biquini” no X? Veja o que fazer
Giovanna (nome fictício) teve sua foto modificada por usuário do X.
Reprodução/Redes sociais.
Na ocasião, a xAI também afirmou ter bloqueado usuários, com base na localização, de gerar imagens de pessoas com roupas reveladoras em “jurisdições onde isso é ilegal”, sem identificar quais são essas regiões.
Doherty afirmou que as imagens expuseram fragilidades mais amplas na forma como tecnologias emergentes de IA são regulamentadas e fiscalizadas.
“A União Europeia tem regras claras para proteger as pessoas online. Essas regras precisam valer na prática, especialmente quando tecnologias poderosas são usadas em larga escala. Nenhuma empresa que opere na UE está acima da lei”, acrescentou.
No início deste mês, o regulador britânico de mídia, Ofcom, também iniciou uma investigação separada para apurar se a X está cumprindo suas obrigações previstas na Lei de Segurança Online do Reino Unido.
A Comissão Europeia iniciou uma investigação sobre o chatbot de inteligência artificial Grok, de Elon Musk, devido à produção de imagens explícitas, informou Regina Doherty, deputada europeia da Irlanda, em declaração nesta segunda-feira (26).
Segundo a parlamentar, a investigação avaliará se a X cumpriu suas obrigações previstas na legislação digital da União Europeia, incluindo requisitos relacionados à mitigação de riscos, governança de conteúdo e proteção de direitos fundamentais.
O caso pode gerar tensão com a administração do presidente dos Estados Unidos, Donald Trump, já que a repressão da União Europeia às grandes empresas de tecnologia provocou críticas e até ameaças de tarifas vindas dos EUA.
LEIA TAMBÉM: ‘Sentimento horrível. Me sinto suja’, diz brasileira vítima de foto editada de biquíni pelo Grok, IA de Musk
Conta no X vem publicando imagens de outras mulheres e pedindo para o Grok deixar elas seminuas.
Reprodução/X
A Comissão Europeia não respondeu de imediato ao ser questionada sobre a abertura formal da investigação. A X também não se manifestou sobre o assunto até a publicação desta reportagem.
“Este caso levanta questões muito sérias sobre se as plataformas estão cumprindo suas obrigações legais de avaliar riscos corretamente e impedir que conteúdos ilegais e prejudiciais se espalhem”, disse Doherty em comunicado enviado por e-mail.
Mais cedo neste mês, a Comissão havia considerado ilegais e repugnantes imagens geradas por IA de mulheres e crianças sem roupa compartilhadas na X, acompanhando a condenação internacional.
A xAI, empresa de inteligência artificial de Musk, informou em meados de janeiro que implementou ajustes para impedir que a conta Grok “permitisse a edição de imagens de pessoas reais com roupas reveladoras, como biquínis”.
Foi vítima da “trend do biquini” no X? Veja o que fazer
Giovanna (nome fictício) teve sua foto modificada por usuário do X.
Reprodução/Redes sociais.
Na ocasião, a xAI também afirmou ter bloqueado usuários, com base na localização, de gerar imagens de pessoas com roupas reveladoras em “jurisdições onde isso é ilegal”, sem identificar quais são essas regiões.
Doherty afirmou que as imagens expuseram fragilidades mais amplas na forma como tecnologias emergentes de IA são regulamentadas e fiscalizadas.
“A União Europeia tem regras claras para proteger as pessoas online. Essas regras precisam valer na prática, especialmente quando tecnologias poderosas são usadas em larga escala. Nenhuma empresa que opere na UE está acima da lei”, acrescentou.
No início deste mês, o regulador britânico de mídia, Ofcom, também iniciou uma investigação separada para apurar se a X está cumprindo suas obrigações previstas na Lei de Segurança Online do Reino Unido.