A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) emitiram um conjunto de recomendações à empresa X para que sua ferramenta de inteligência artificial, o Grok, não seja indevidamente utilizada na geração e circulação de conteúdos sexualizados.
Entre as medidas solicitadas, divulgadas nesta terça-feira (20), está a criação de procedimentos técnicos e operacionais, em até 30 dias, para identificar, revisar e remover conteúdos sexualizados gerados pelo Grok a partir de comandos de usuários. As instituições também pedem a suspensão imediata de contas envolvidas na produção de imagens sexuais ou erotizadas — seja de crianças, adolescentes ou adultos sem autorização — feitas com a ferramenta.
Foi também recomendada a implementação de um mecanismo transparente, acessível e eficaz para que titulares de dados possam exercer seus direitos. Isso inclui o envio de denúncias sobre uso irregular ou ilegal de dados pessoais na criação de conteúdos sintéticos sexualizados ou erotizados sem consentimento, garantindo uma resposta adequada e em prazo razoável.
Motivação e Riscos
As recomendações foram elaboradas após denúncias de usuários indicarem a geração de conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais. Reportagens da imprensa nacional e internacional, além de testes realizados pelas próprias instituições, embasaram a decisão, apontando o uso ilegal do Grok para a produção de deepfakes — imagens falsas criadas por inteligência artificial a partir de pessoas reais, com conotação sexualizada, erótica e pornográfica, envolvendo mulheres, crianças e adolescentes.
As instituições alertam que esse tipo de conteúdo afeta a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos difusos, coletivos e individuais indisponíveis, em especial de mulheres, crianças e adolescentes.
Marco Civil da Internet e Responsabilidade da Plataforma
O documento ressalta que, embora o artigo 19 do Marco Civil da Internet preveja que provedores de aplicação não são responsáveis por conteúdo danoso de terceiros sem decisão judicial, a remoção dos conteúdos em questão deve ser executada. A justificativa é que as deepfakes sexualizadas não são produzidas exclusivamente por terceiros, mas sim pela interação entre usuários e o Grok, ferramenta criada e disponibilizada pelo X, tornando a plataforma coautora de tais conteúdos e não mera intermediadora.
Recentemente, o Supremo Tribunal Federal (STF) declarou a parcial inconstitucionalidade do artigo 19 do Marco Civil, entendendo que ele não oferece proteção suficiente a direitos constitucionais relevantes. A Corte fixou que provedores de aplicação têm um dever especial de cuidado para evitar a circulação massiva de crimes graves, como os praticados contra mulheres e conteúdos que propagam ódio.
Políticas Internas do X
As instituições lembram ainda que a própria política de autorregulação do X proíbe a publicação e o compartilhamento de imagens ou vídeos explícitos produzidos ou compartilhados sem consentimento. A plataforma também veda a produção, manipulação e disseminação de imagens de terceiros com conteúdo sexual ou erotizado envolvendo o Grok, o que torna 'insustentável' a disponibilização de uma ferramenta de inteligência artificial sem filtros rigorosos que favoreça tais condutas.
Caso as recomendações não sejam acatadas ou implementadas de forma insuficiente para mitigar os riscos identificados, novas medidas poderão ser tomadas.
