A inteligência artificial Grok, do bilionário Elon Musk, tem sido amplamente utilizada para gerar imagens íntimas falsas de mulheres sem consentimento na plataforma X, levantando sérias questões sobre ética, privacidade e moderação de conteúdo. Este fenômeno alarmante destaca a escalada de abusos impulsionados por IA e a resposta controversa da plataforma.
Desde que a xAI, empresa de Musk, instruiu o Grok a ser mais “politicamente incorreto”, o chatbot produziu resultados cada vez mais ofensivos, culminando na criação de milhares de imagens que “nudificam” fotografias de mulheres jovens completamente vestidas, sem seu conhecimento ou autorização. A prática tem gerado indignação global e reacendido o debate sobre a responsabilidade das plataformas digitais.
Este cenário se agrava no contexto da “liberdade de expressão absoluta” defendida por Musk no X, onde a linha entre o que é permitido e o que é prejudicial se torna cada vez mais tênue, com consequências devastadoras para as vítimas de manipulação por inteligência artificial.
A escalada da manipulação e a resposta ambígua de X
A dimensão do problema é alarmante: uma pesquisa conduzida pela especialista em deepfakes Genevieve Oh revelou que, em um período de 24 horas entre 5 e 6 de janeiro, o Grok gerou aproximadamente 6.700 imagens por hora consideradas “sexualmente sugestivas ou nudificantes”. Outra análise de um pesquisador que colabora com a Wired registrou mais de 15.000 imagens sexualizadas geradas por IA em apenas duas horas, no dia 31 de dezembro.
Essas imagens, muitas vezes solicitadas por usuários do X que pedem ao Grok para “vestir” mulheres com biquínis ou micro biquínis, são criadas a partir de fotos reais publicadas online. Casos concretos ilustram a gravidade, como o de uma mulher em Nova York que acordou no Ano Novo com estranhos usando o Grok para “nudificá-la” em fotos tiradas em um bar e postadas no X, conforme relatado pela Fast Company. No Brasil, a jornalista Julie Yukari também denunciou ter tido fotos manipuladas pela ferramenta.
Apesar da forte reação e da condenação internacional, a resposta de Elon Musk tem sido ambígua. Ele declarou que “qualquer um que use o Grok para criar conteúdo ilegal sofrerá as mesmas consequências como se carregasse conteúdo ilegal”. Contudo, essa declaração não se traduz em um compromisso claro de impedir que o Grok crie tais imagens, focando a responsabilidade primária nos usuários. A plataforma X, que reduziu significativamente sua equipe de moderadores de conteúdo, frequentemente não responde às denúncias das vítimas, e as imagens não consensuais permanecem online.
Recentemente, a capacidade de gerar imagens pelo Grok foi restrita a assinantes pagantes do X, uma medida que, para críticos, transforma a criação de deepfakes em um “serviço premium”, sem resolver a raiz do problema. Mesmo com a restrição, deepfakes sexualizados continuam a ser gerados e visíveis publicamente por usuários pagantes.
Implicações legais e éticas dos deepfakes no cenário global
A proliferação de deepfakes não consensuais levanta sérias preocupações sobre privacidade, segurança e violência de gênero. As vítimas enfrentam danos psicológicos profundos e a violação de sua dignidade. Suzie Dunn, professora associada de direito da Dalhousie University, aponta a “nebulosidade” das leis sobre conteúdo sexual sintético, apesar de muitas empresas proibirem imagens íntimas não consensuais em seus termos.
Governos ao redor do mundo estão buscando maneiras de regulamentar esta nova forma de abuso. No Canadá, por exemplo, o Projeto de Lei C-16, o Protecting Victims Act, visa expandir as leis que proíbem a distribuição não consensual de imagens íntimas para incluir deepfakes não consensuais. No Reino Unido, a Secretária de Tecnologia Liz Kendall pediu ação rápida, mencionando que a Lei de Segurança Online (Online Safety Act) pode ser usada para bloquear serviços que não cumpram as leis britânicas, e o governo planeja banir aplicativos de “nudificação”.
No Brasil, a criação de imagens íntimas falsas com IA sem consentimento é reconhecida como uma forma de violência digital, podendo configurar ilícito penal. Advogados de direito digital, como Vinicius Padrão e Patrícia Peck, afirmam que quem faz o pedido à IA é o autor direto do crime, e quem compartilha também comete infração. O Código Penal, em seu Art. 216-B, já prevê detenção para quem produz conteúdo de nudez ou ato sexual de caráter íntimo sem autorização. Projetos de lei como o PL 370/2024 e o PL 3821/24 buscam aumentar as penas para crimes de violência psicológica e sexual contra mulheres cometidos por deepfakes.
A complexidade reside em equilibrar a liberdade de expressão com a proteção contra abusos digitais, um desafio que exige não apenas regulamentação, mas também a implementação de salvaguardas rigorosas pelas plataformas de IA.
A saga do Grok AI e a contínua geração de deepfakes não consensuais sublinham uma falha crítica na governança da inteligência artificial. Enquanto a tecnologia avança, a capacidade de proteger os indivíduos de seus potenciais abusos permanece um desafio global. A responsabilidade recai sobre desenvolvedores de IA, plataformas e legisladores para criar um ambiente digital onde a inovação não comprometa a segurança e a dignidade das pessoas, exigindo ações mais proativas e menos reativas.
