Imagem criada no Canva para a Global Voices.

Esta publicação faz parte da série especial de abril de 2026 da Global Voices, “Perspectivas humanas sobre IA“. Esta série oferecerá percepções de como a IA está sendo utilizada nos países de maioria global, como seu uso e implementação estão afetando as comunidades individuais, o que esse experimento de IA pode significar para as gerações futuras e muito mais. Você pode apoiar esta cobertura fazendo uma doação aqui.

Em novembro de 2023, um grupo de pais de uma escola do Rio de Janeiro denunciou à polícia que adolescentes estavam criando e compartilhando nudes geradas por Inteligência Artificial (IA) com fotos de outros colegas de classe. Menos de um ano depois, em setembro de 2024, no estado da Bahia, outro grupo de adolescentes também foi suspeito de utilizar IA para criar imagens de teor sexual de outros colegas, enquanto no estado do Mato Grosso, os alunos foram expulsos após compartilharem imagens feitas com IA, com rosto de uma professora e colegas, em grupos de pornografia nas mídias sociais.

Esses são alguns casos recentes relatados na mídia brasileira e mencionados em uma nota técnica publicada pelo centro de pesquisa independente Internetlab no início de abril de 2026. O documento tem como objetivo discutir “formas de combater a violência on-line contra meninas e mulheres no Brasil” e contribuir com discussões regulatórias no contexto atual do país.

Segundo o Fórum Brasileiro de Segurança Pública, somente em 2025, o Brasil registrou 1.568 feminicídios, um aumento de 4,7% em relação ao ano anterior e o maior número registrado desde a assinatura da lei que tipifica esse tipo de crime, há 10 anos. O aumento nos casos de violência de gênero relatados no noticiário levou a protestos no final de 2025. E a quantidade crescente de conteúdo misógino on-line pode estar “alimentando a violência”, segundo reportagem da Deutsche Welle.

Para Clarice Tavares, diretora de pesquisa do Internetlab e uma das autoras da nota técnica, em entrevista à Global Voices, os casos de violência de gênero on-line e off-line fazem parte da mesma estrutura misógina, coexistindo e sendo codependentes uns dos outros. “Estamos passando por um momento complexo de crescimento da violência contra a mulher, e precisamos de políticas públicas que analisem esses contextos, em suas especificidades”, analisa.

Ao falar sobre IA e questões de gênero, Tavares observa que os bancos de dados utilizados para alimentar as plataformas podem ter viés, o que influencia os resultados. O Internetlab optou por analisar a violência relacionada à IA na nota técnica, explica ela, devido ao seu impacto mais amplo e à possibilidade de abordá-la por meio de regulamentação adequada.

Entre outros pontos, o documento do Internetlab aponta para os riscos associados a “deepfakes de conteúdo sexual não consensual” e defende que a possibilidade de tal ocorrência seja classificada como “risco excessivo”, observando que “essas tecnologias afetam mulheres e meninas desproporcionalmente”:

Uma pesquisa conduzida pela Security Hero demonstrou que deepfakes sexualmente explícitas representam 98% de todos os vídeos de deepfake online, e que 99% das pessoas alvo desses conteúdos eram mulheres. A pesquisa também indicou um aumento de 464% do número de deepfakes sexuais entre 2022 e 2023.

Embora Tavares afirme que os problemas não são exclusivos de uma plataforma, ela aponta o Grok, a IA incorporada do X, como a ponta do iceberg, expondo um problema mais amplo já disseminado on-line.

I think this case calls for attention, since the AI that made it possible to create this sort of content was already part of its own social media, which helped to amplify the reach of such content. It was very much on the surface. I think it's a systemic issue, but Grok’s case made it impossible not to discuss it or worry about the current state of things. It was evident there had been several flaws in the tools and the platforms that allowed these things to happen on such a large scale.

Acredito que esse caso chama a atenção, pois a IA que possibilitou a criação desse tipo de conteúdo já fazia parte de sua própria mídia social, o que ajudou a ampliar o alcance desse conteúdo. Era muito superficial. Acredito que seja uma questão sistêmica, mas o caso do Grok fez com que fosse impossível não discutir o assunto ou não nos preocuparmos com a situação atual. Era evidente que havia várias falhas nas ferramentas e nas plataformas que permitiam que essas coisas acontecessem em uma escala tão grande.

O que diz a lei no Brasil?

Na última década, o Brasil teve avanços na legislação sobre direitos na internet. No ano passado, 11 anos após a assinatura do Marco Civil da Internet (lei que funciona como uma constituição dos direitos civis para a internet), o Supremo Tribunal Federal (STF) votou considerando um de seus artigos parcialmente inconstitucional. O Artigo 19 regulamentava a responsabilidade civil das plataformas pelo conteúdo publicado por terceiros (usuários). A maioria dos juízes entendeu que, no cenário atual, a norma não era mais suficiente para proteger os direitos fundamentais e a democracia.

“Ainda há um longo caminho para entendermos como essa decisão será operacionalizada. Um novo regulamento sobre a responsabilidade das plataformas estabeleceu normas sobre o modo como elas devem funcionar até que seja aprovada uma legislação regulatória mais robusta. As plataformas agora têm mais obrigações com a moderação de conteúdo, de modo que a decisão estabeleceu um novo paradigma para pensarmos na responsabilidade e nas obrigações das mesmas”, diz Tavares.

No contexto da violência de gênero on-line, ela também enfatiza a importância de se ter uma definição legal e um conceito do que é entendido como misoginia para colocar em prática a decisão da Suprema Corte. “Queremos adaptar essa decisão às políticas públicas já existentes, à legislação referente à violência de gênero a esse novo cenário de violência digital”, explica.

A análise do Internetlab menciona um aumento no número de projetos de lei propostos com o objetivo de criminalizar o comportamento misógino e o chamado movimento “redpill” (pílula vermelha, na tradução) e “machosfera”, mas observa que, embora sejam um passo importante para enfrentar o problema, ter a criminalização como a principal e única solução pode limitar a eficácia das estratégias de prevenção e reparação das vítimas.

Sua recomendação em relação à IA inclui, por exemplo, a criação de diretrizes curriculares sobre alfabetização digital para desenvolver uma análise crítica de como funcionam os algoritmos, as plataformas, as ferramentas de inteligência artificial e outros elementos do ecossistema digital.

Relativamente às plataformas, a nota recomenda a adoção de medidas de segurança desde a fase inicial de concepção dos seus projetos (safety by design), “para impedir a criação e a divulgação desse tipo de conteúdo”, que tem como alvo principal mulheres e crianças. Os deepfakes de conteúdo sexual não consensual devem ser considerados um “risco excessivo”, com seu uso e aplicação proibidos, e devem ser estabelecidas regras relativas à responsabilidade e às obrigações das plataformas digitais e dos agentes de IA.

Uma estimativa da Movember Foundation, uma organização de saúde masculina, aponta que dois terços dos homens jovens se envolvem regularmente com influenciadores de masculinidade on-line. Um artigo publicado pela ONU Mulheres diz que “os especialistas estão descobrindo que a popularidade da linguagem extrema na ‘machosfera’ não apenas normaliza a violência contra mulheres e meninas, mas também tem vínculos crescentes com a radicalização e ideologias extremistas”.

Com a aproximação do período eleitoral no Brasil e com relatos de vídeos gerados por inteligência artificial que mostram violência contra eleitoras, Tavares acredita que há novas camadas a serem consideradas em relação à violência política de gênero. “Com a produção de vídeos ou até mesmo com chatbots como Gemini, ChatGPT ou Claude, o que estamos vendo é que [a IA] provavelmente será uma ferramenta utilizada como meio de acesso a informações, e pode haver preconceitos de gênero, reproduzindo a violência de gênero e a violência política de gênero. Ainda estamos tentando entender o impacto que isso pode e terá daqui para frente.”