Grok no X: Governo e MP querem barrar conteúdos sexualizados O governo federal, a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal recomendaram à rede social X que implemente filtros rígidos no sistema de inteligência artificial Grok para impedir a geração e a circulação de imagens sexualizadas não consensuais.
Procedimentos exigidos em até 30 dias
Em documento divulgado em 20 de janeiro, a Agência Nacional de Proteção de Dados (ANPD), a Senacon e o MPF estabeleceram prazo máximo de 30 dias para que a controladora do X apresente procedimentos técnicos e operacionais capazes de identificar, revisar e remover conteúdos desse tipo já disponíveis na plataforma quando criados pelo Grok a partir de comandos de usuários.
As entidades também solicitaram a suspensão imediata de perfis envolvidos na produção de deepfakes eróticas referentes a crianças, adolescentes ou adultos sem autorização. Além disso, pedem um canal transparente que permita às vítimas denunciar o uso abusivo de seus dados e imagens, garantindo resposta em tempo razoável.
Deepfakes colocam direitos fundamentais em risco
Relatos de usuários, matérias jornalísticas e testes de órgãos de fiscalização apontaram que o Grok vinha sendo usado para criar deepfakes pornográficas com pessoas reais. Segundo as autoridades, esses conteúdos violam a dignidade humana, afetam relações de consumo e ferem a proteção de dados, especialmente de mulheres, crianças e adolescentes.
As instituições enfatizaram que a própria política interna do X proíbe a divulgação de nudez não consensual e a manipulação sexual de imagens de terceiros. Por isso, consideram “insustentável” manter o Grok ativo sem filtros robustos.
Base jurídica reforçada por decisão do STF
Embora o artigo 19 do Marco Civil limite a responsabilidade de provedores por conteúdo de terceiros, o documento sustenta que o X é coautor das deepfakes por disponibilizar a IA. O argumento ganha força após o Supremo Tribunal Federal declarar parcialmente inconstitucional o dispositivo, impondo “dever especial de cuidado” às plataformas em crimes graves, como violência de gênero. Detalhes sobre o julgamento podem ser conferidos no site do Supremo Tribunal Federal.
Possíveis sanções se recomendações forem ignoradas
Se a empresa não cumprir ou adotar medidas consideradas insuficientes, ANPD, Senacon e MPF prometem atuar nas esferas administrativa e judicial para proteger os cidadãos. As ações poderão incluir multas e ordens de remoção, priorizando a segurança de grupos vulneráveis.
No desfecho, as autoridades reforçam que cabe à plataforma adotar filtros imediatos para bloquear a geração de novas imagens, vídeos ou áudios sexualizados envolvendo menores ou adultos identificáveis sem consentimento.
Quer entender mais sobre direitos digitais e decisões judiciais que impactam a internet? Acesse nossa editoria de Justiça e continue informado.
Crédito da imagem: X/Divulgação
Fonte: Agência Brasil
