A xAI, empresa de inteligência artificial de Elon Musk, anunciou a implementação de medidas tecnológicas para impedir que seu chatbot Grok crie e edite imagens de pessoas reais em roupas reveladoras, como biquínis e roupas íntimas, em jurisdições onde tal prática é ilegal. A decisão surge após uma intensa e crescente repercussão global, que incluiu investigações governamentais e um clamor público contra a proliferação de deepfakes sexualizados não consensuais gerados pela ferramenta.
O problema ganhou notoriedade nas últimas semanas, quando usuários exploraram o Grok para manipular fotos de indivíduos, predominantemente mulheres e, em alguns casos, até menores de idade, transformando-as em imagens com conteúdo sexual explícito. Prompts simples, como “vista-a com um biquíni” ou “dispa-a”, resultavam em deepfakes hiper-realistas. Este cenário alarmante levou a uma série de proibições e advertências por parte de governos ao redor do mundo, forçando a xAI a revisar suas políticas e capacidades.
A escalada da pressão regulatória sobre o Grok
A reação contra o Grok foi rápida e abrangente. Nos Estados Unidos, o procurador-geral da Califórnia, Rob Bonta, iniciou uma investigação contra a xAI, acusando a empresa de “facilitar a produção em larga escala de montagens íntimas não consensuais (deepfakes), utilizadas para assediar mulheres e meninas na internet”. O governador da Califórnia, Gavin Newsom, também se manifestou, classificando como “vil” a decisão da xAI de permitir a proliferação de deepfakes sexualizados e instando o procurador-geral a responsabilizar a empresa.
Internacionalmente, a resposta foi igualmente rigorosa. Indonésia e Malásia foram os primeiros países a bloquear temporariamente o acesso ao Grok, citando a ausência de salvaguardas eficazes contra a produção de conteúdo sexualizado não consensual e classificando a prática como uma grave violação dos direitos humanos e da segurança digital. As Filipinas se juntaram a eles, tornando-se o terceiro país a banir o chatbot. No Reino Unido, a autoridade reguladora de segurança online iniciou sua própria investigação, enquanto a União Europeia ordenou que o X preservasse todos os documentos relacionados ao Grok para uma apuração formal sob a Lei de Serviços Digitais (DSA), com a possibilidade de multas multibilionárias.
No Brasil, a preocupação também se manifestou. A deputada federal Erika Hilton protocolou uma denúncia junto ao Ministério Público Federal e à Autoridade Nacional de Proteção de Dados, solicitando a suspensão da ferramenta no país até a conclusão das investigações. Além disso, a Câmara dos Deputados aprovou um projeto de lei que criminaliza a manipulação, produção ou divulgação de conteúdo de nudez ou ato sexual falso gerado por inteligência artificial, com penas de reclusão e multa. O Senado dos EUA também aprovou a “Defiance Act”, que permite que vítimas processem criadores de deepfakes sexuais não consensuais.
As medidas da xAI e os desafios da moderação de conteúdo por IA
Em meio à crescente pressão, a xAI inicialmente respondeu a algumas consultas da mídia com a frase “mentiras da mídia tradicional”. No entanto, a empresa posteriormente anunciou que havia implementado “medidas tecnológicas para impedir que a conta Grok permita a edição de imagens de pessoas reais com roupas reveladoras”. Essa restrição, segundo a xAI, aplica-se a todos os usuários, incluindo os assinantes pagos do serviço. Além disso, a geração e edição de imagens pelo Grok foi limitada apenas a assinantes pagos, uma “camada adicional de proteção” para facilitar a identificação e punição de infratores. Elon Musk, por sua vez, afirmou que qualquer pessoa que usasse o Grok para criar conteúdo ilegal sofreria as mesmas consequências de quem carregasse conteúdo ilegal diretamente na plataforma.
Apesar das promessas, alguns testes indicam que as novas restrições ainda podem ser contornadas, e a eficácia das salvaguardas continua sob escrutínio. Uma análise da ONG AI Forensics revelou que mais da metade das 20.000 imagens geradas pelo Grok entre o Natal e o Ano Novo retratavam indivíduos com pouca roupa, sendo 81% mulheres e 2% aparentando ser menores de 18 anos. Outro estudo indicou a geração de 6.700 imagens explícitas ou sugestivas por hora.
A controvérsia em torno do Grok sublinha o dilema ético e regulatório enfrentado pelas empresas de inteligência artificial. Enquanto a tecnologia avança, a capacidade de gerar deepfakes realistas amplifica o risco de violência digital, especialmente contra mulheres e crianças. A necessidade de moderação robusta e proativa, em vez de apenas reativa, torna-se cada vez mais evidente para proteger a dignidade e a segurança dos usuários no espaço digital. A resposta da xAI, embora tardia, demonstra a crescente pressão para que as plataformas de IA assumam maior responsabilidade pelo conteúdo gerado por suas ferramentas.
