A deputada Federal Erika Hilton protocolou uma representação no Ministério Público Federal (MPF) contra o Grok, ferramenta de inteligência artificial da plataforma X (antigo Twitter), após a tecnologia ter sido utilizada para criar e editar imagens sexualizadas de pessoas reais sem consentimento, incluindo crianças e adolescentes.
O Grok, integrado à rede social X, funciona como um chatbot que responde a comandos, gera textos e permite a edição de imagens a partir de conteúdos publicados na própria plataforma por meio de modelos generativos de inteligência artificial. Segundo a denúncia, a ferramenta foi empregada para modificar fotografias de terceiros sem mecanismos de verificação de idade, consentimento ou finalidade legítima, resultando na produção de deepfakes de caráter sexual envolvendo tanto mulheres adultas quanto menores de idade.
No documento apresentado ao MPF, Erika Hilton destacou a ausência de filtros eficazes no Grok, alegando que isso facilitou a circulação de material erótico e pornográfico, inclusive de crianças e adolescentes. A petição aponta que, mesmo após denúncias, a funcionalidade permaneceu ativa, ampliando o alcance dessas deepfakes geradas pela IA. Além dos casos envolvendo menores, há relatos de mulheres adultas que tiveram suas imagens sexualizadas sem consentimento, como no episódio em que o chatbot "despiu digitalmente" uma foto publicada na plataforma, gerando indignação das vítimas.
Diante desses fatos, a deputada solicitou ao MPF a abertura de procedimento investigatório, a suspensão ou restrição imediata da ferramenta Grok, além da apresentação de informações técnicas sobre filtros e mecanismos de proteção. Também foi pedido que o caso seja comunicado à Autoridade Nacional de Proteção de Dados (ANPD). A petição exige ainda a desativação da ferramenta em território brasileiro até a implementação de salvaguardas eficazes, prevendo multa diária de R$ 500 mil em caso de descumprimento.
Em publicação na própria rede X, Erika Hilton ressaltou: "O direito à imagem é individual, não é transferível por meio dos 'termos de uso' de uma rede social e a distribuição em massa de pornografia infantil por uma inteligência artificial integrada a uma rede social ultrapassa todos os limites".
Impacto no Dia a Dia dos Advogados
A mobilização judicial em torno da responsabilização de plataformas digitais e ferramentas de inteligência artificial como o Grok impacta diretamente a atuação de advogados nas áreas de direito digital, proteção de dados, direitos da personalidade e direito civil. Profissionais que lidam com responsabilidade civil, privacidade, proteção à imagem e crimes digitais precisarão adaptar suas estratégias e atualizar petições para lidar com situações envolvendo deepfakes, consentimento e danos morais. Escritórios que assessoram empresas de tecnologia também devem rever políticas de compliance e mecanismos de prevenção. O tema reforça a necessidade de atualização constante dos advogados frente à evolução tecnológica e à legislação de proteção de dados, impactando a rotina de quem atua tanto na defesa de vítimas quanto na consultoria preventiva a plataformas e desenvolvedores.
