Autoridades brasileiras determinaram que a plataforma X adote medidas imediatas para impedir que o Grok, sua ferramenta de inteligência artificial, produza conteúdo relacionado à sexualização infantil.

A decisão foi tomada após denúncias de que o Grok estaria sendo utilizado para gerar deepfakes e imagens erotizadas de crianças, adolescentes e mulheres adultas sem consentimento. O Ministério Público Federal (MPF), a Secretaria Nacional do Consumidor (Senacon) e a Agência Nacional de Proteção de Dados (ANPD) publicaram, nesta terça-feira (11), uma determinação exigindo celeridade da empresa de Elon Musk na correção das falhas identificadas.

Segundo os órgãos, a plataforma já havia sido cobrada anteriormente para solucionar o problema, após o recebimento de denúncias sobre o uso do Grok para criar conteúdo sintético de caráter sexualizado, utilizando imagens de pessoas reais.

As denúncias envolvem a produção ilegal de deepfakes sexualizadas, de teor erótico e pornográfico, envolvendo mulheres, crianças e adolescentes, sem o devido consentimento.

Em resposta à recomendação das autoridades, o X afirmou que removeu milhares de publicações e suspendeu centenas de contas por violações às suas políticas, além de ter adotado medidas de segurança.

Contudo, o MPF, a Senacon e a ANPD consideraram que as informações apresentadas pela empresa "não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que permitam aferir sua efetividade". Testes realizados pelas equipes técnicas dos órgãos constataram a persistência das falhas, com continuidade na geração e circulação de conteúdos inadequados.

"Diante disso, ANPD e Senacon determinaram que o X implemente, de forma imediata, medidas aptas a impedir a produção, a partir do Grok, de conteúdo sexualizado ou erotizado de crianças e adolescentes e de adultos que não expressaram consentimento. As instituições também determinaram a prestação de informações sobre as providências já adotadas pela empresa para sanar os problemas identificados na recomendação. O MPF, por sua vez, ordenou que o X forneça relatórios mensais sobre sua atuação a respeito do tema e ressaltou que a empresa não foi transparente em sua resposta", informou o MPF.

Os relatórios mensais, que deverão ser enviados ao MPF a partir deste mês, precisam detalhar como o X está atuando para impedir e reprimir a produção de deepfakes envolvendo crianças, adolescentes e adultos sem autorização prévia.

A empresa de Elon Musk deverá informar o número de publicações nocivas removidas e o número de contas suspensas por envolvimento nessas práticas em cada período relatado.

O MPF destacou que o X não foi transparente quanto às medidas adotadas para combater os crimes, limitando-se a apresentar informações genéricas ou que não se relacionavam diretamente ao incidente envolvendo o Grok neste ano.

Nos últimos meses, o Grok foi responsável por uma onda de conteúdos criminosos na internet. A inteligência artificial do X estava produzindo imagens em que pessoas tinham suas roupas removidas digitalmente, a partir de comandos simples de usuários da plataforma.

Mensagens como "Grok, tire a roupa dela", acompanhadas de imagens de crianças, jovens e mulheres reais, se multiplicaram na rede, até que a empresa interrompesse a geração desse tipo de conteúdo. As denúncias chegaram ao MPF e ao governo federal, que exigiram providências imediatas por parte do X.

Foto: https://depositphotos.com/