A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) emitiram uma série de recomendações formais à empresa controladora da plataforma X para coibir o uso indevido do Grok, ferramenta de inteligência artificial da rede social, na geração e disseminação de conteúdos sexualizados ilegais.
O documento, divulgado nesta terça-feira (20), estabelece prazo de até 30 dias para que a empresa implemente procedimentos técnicos e operacionais capazes de identificar, revisar e remover conteúdos ainda disponíveis na plataforma, quando produzidos pelo Grok a partir de comandos de usuários.
Suspensão de contas e canais de denúncia
Entre as medidas recomendadas está a suspensão imediata das contas envolvidas na produção de imagens sexuais ou erotizadas, tanto de crianças e adolescentes quanto de adultos sem autorização, quando geradas pela ferramenta de IA.
Os órgãos também exigem a criação de um mecanismo transparente, acessível e eficaz para que titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre uso abusivo, irregular ou ilegal de dados pessoais. A orientação é clara: as respostas devem ser adequadas e dadas em prazo razoável.
Deepfakes sexualizadas motivaram ação conjunta
As recomendações foram elaboradas após denúncias de usuários, reportagens da imprensa nacional e internacional e testes conduzidos pelas próprias instituições, que identificaram o uso do Grok para a produção de deepfakes sexualizadas.
Segundo o documento, a ferramenta estaria sendo utilizada para criar imagens falsas com caráter erótico ou pornográfico, envolvendo mulheres, crianças e adolescentes reais, o que amplia os riscos à proteção de dados, à dignidade da pessoa humana e a outros direitos difusos e coletivos.
Responsabilidade do X vai além da intermediação
As instituições destacam que, embora o artigo 19 do Marco Civil da Internet limite a responsabilidade dos provedores por conteúdos gerados por terceiros, o caso do Grok apresenta uma distinção relevante.
Isso porque as deepfakes não são produzidas apenas por usuários, mas por meio da interação direta com uma ferramenta de inteligência artificial criada, treinada e disponibilizada pelo próprio X, o que, segundo o texto, caracteriza a empresa como coautora do conteúdo, e não mera intermediadora.
O documento lembra ainda que o Supremo Tribunal Federal (STF) declarou recentemente a inconstitucionalidade parcial do artigo 19, por entender que ele não oferece proteção suficiente a direitos fundamentais. Na decisão, a Corte fixou que plataformas digitais têm dever especial de cuidado, sobretudo para evitar a circulação massiva de crimes graves, como os praticados contra mulheres em razão do gênero.
Política interna do X também é citada
Outro ponto ressaltado é que a própria política de autorregulação do X proíbe a publicação e o compartilhamento de nudez não consensual, bem como a produção e disseminação de imagens sexualizadas de terceiros sem autorização, inclusive em contextos que envolvam o Grok.
Para ANPD, Senacon e MPF, essa contradição torna insustentável a disponibilização de uma ferramenta de IA sem filtros rigorosos, que facilite condutas vedadas pelas próprias regras da plataforma.
Próximos passos
Caso as recomendações não sejam cumpridas ou sejam implementadas de forma insuficiente, as instituições alertam que poderão adotar medidas administrativas e judiciais para garantir a proteção dos cidadãos, com atenção especial a mulheres, crianças e adolescentes.
Quando a tecnologia avança mais rápido que a responsabilidade, o resultado costuma parar no Judiciário. E, neste caso, o recado foi dado com todas as letras — e prazo no calendário.