Grandes empresas de tecnologia não são confiáveis. Não basta que eles removam o dano quando o encontram – a lei deve fazer com que seus sistemas impeçam o dano
Em X, uma mulher posta uma foto em um sari, e em poucos minutos, vários usuários estão por baixo do post etiquetando Grok para despi-la até um biquíni. É uma violação chocante da privacidade, mas agora prática familiar e comum. Entre junho de 2025 e janeiro de 2026, eu documentou 565 instâncias de usuários solicitando Grok para criar imagens íntimas não consensual. Destes, 389 foram solicitados em apenas um dia.
Na sexta-feira passada, após uma reação contra a capacidade da plataforma de criar tais imagens sexuais não consensual, X anunciou que a geração de imagens de IA de Grok iria apenas estar disponível para os assinantes. Relatórios sugerem que o bot agora já não responde para gerar imagens de mulheres em biquínis (embora aparentemente ainda vai fazê-lo para pedidos sobre os homens).
Nana Nwachukwu é especialista em governança de IA e pesquisadora de doutorado no Trinity College Dublin
