Apartheid digital e o uso de algoritmos de redes sociais em crises humanitárias

Photo by Alfo Medeiros from Pexels

Protesto popular na Palestina. Foto de Alfo Medeiros do Pexels, usada com autorização de Pexels License.

O apartheid digital é um dos muitos novos termos que vemos hoje que abordam as limitações da internet e como as grandes plataformas tecnológicas têm o poder de escolher o conteúdo que vemos nos nossos feeds, por vezes levando ao sufocamento e à censura de vozes políticas que se opõem à dissidência e ao apagamento.

Nos últimos tempos, usuários tornaram-se mais conscientes da onda de censura que tem sido reforçada pelas plataformas através do “shadow banning,” uma forma de censura que restringe a visibilidade de determinados conteúdos sem notificar os usuários, e acusações de “violação das diretrizes da comunidade”. Estes são apenas alguns dos muitos termos usados para silenciar as vozes que falam sobre o genocídio em curso na Palestina desde 9 de outubro.

A história tem testemunhado como as crises humanitárias se agravaram em situações de guerra. No entanto, a diferença nas guerras que testemunhamos nesta época é o poder da internet e o papel das grandes plataformas tecnológicas. Após a Rússia invadir a Ucrânia, pudemos ver o papel que as redes sociais desempenharam amplificando as vozes das pessoas que sobreviveram à guerra. Houve um aumento no ativismo de guerra digital, no qual as plataformas de redes sociais escolheram um lado e forneceram seus serviços de uma maneira que ajudasse os cidadãos ucranianos.

Embora esta medida tenha ajudado a elevar as vozes e destacado potenciais crimes de guerra, que ocorreram durante este período, vale a pena perguntar se os mesmos padrões estão sendo aplicados a países que não fazem parte do norte global. A mais recente explosão do conflito Palestina-Israel trouxe à tona uma série de questões em torno das grandes plataformas tecnológicas que optam por amplificar certas vozes em certas crises humanitárias, ao mesmo tempo que optam convenientemente por ignorar outras.

De acordo com um relatório da Anistia Internacional de 2017, os modelos algorítmicos e os interesses lucrativos da Meta levaram à amplificação das atrocidades durante a crises dos Rohingyas muçulmanos em Mianmar (outubro de 2016–janeiro de 2017). As forças de segurança em Mianmar realizaram uma ampla campanha de limpeza étnica no Facebook, plataforma da Meta, que levou a graves violações dos direitos humanos e incitou ainda mais o ódio, a violência e a discriminação contra a comunidade. Conteúdos de ódio aumentaram no Facebook e, em 2018, a empresa admitiu não ter feito o suficiente para evitar a escalada deste conteúdo nas suas plataformas. Isso levou a plataforma a ser processada no Reino Unido e nos EUA. O caso segue em andamento.

Mais recentemente, de acordo com a ONG palestina 7amleh (Centro Árabe para o Avanço das Mídias Sociais), entre 7 de outubro e 14 de novembro, houve 1.447 violações comprovadas dos direitos digitais palestinos. Este número inclui 573 casos de restrições de contas ou remoção de conteúdo de usuários e apoiadores palestinos. Houve também 904 casos de discurso de ódio, incitação à violência e outras formas de violência on-line facilitada pela tecnologia que foram verificados manualmente.

O 7amleh desenvolveu um modelo de linguagem baseado em IA que monitora a distribuição de discurso de ódio em hebraico contra palestinos e ativistas pró-Palestina nas plataformas. O indicador de violência documentou mais de um milhão de casos de discursos de ódio pelas plataformas, a maioria dos quais foi encontrada no X (antigo Twitter). De acordo com o 7amleh, 68% dos casos documentados de discurso e incitamento ao ódio basearam-se em filiações políticas e/ou sentimentos nacionalistas, 29% em preconceitos raciais e os restantes incluíram violência sexual e violência religiosa, entre outros.

Recentemente, usuários de todo o mundo notaram que as grandes plataformas tecnológicas foram minimizando seu alcance orgânico, onde usuários relataram que seu conteúdo, particularmente relacionado com o genocídio e a guerra que acontecem em Gaza, foi distribuído para menos pessoas. Várias pessoas e ativistas que postam conteúdo pró-Palestina relataram que estão sofrendo shadow banning nas grandes plataformas de tecnologia como Facebook, Instagram, X, YouTube e TikTok.

Também houve relatos de que o Instagram removeu contas pró-Palestina, que são uma fonte de notícias para inúmeras pessoas on-line, como @eye.on.palestine, que foi removida anteriormente e recentemente reintegrada na plataforma, com um número de seguidores de 8,8 milhões de usuários. O Instagram também tem sido criticado por adicionar a palavra “terrorista” às biografias de usuários que se descrevem como palestinos na plataforma. A crise já está sendo chamada de “névoa de guerra impulsionada por algoritmos”, com o uso crescente da inteligência artificial (IA) e da IA ​​generativa sendo usada para espalhar desinformação contra vozes pró-Palestinas.

Grupos internacionais de defesa dos direitos humanos, como a Anistia Internacional e a Access Now, também emitiram declarações sobre o racismo e o discurso de ódio que os palestinos enfrentam on-line e a necessidade de as plataformas fazerem mais em tempos de crise, em vez de censurarem e proibirem cidadãos que já testemunham uma guerra em curso no terreno.

Para conter este obstáculo direcionado pelas plataformas de mídia social, alguns usuários na internet têm feito “quebras de algoritmo” e “enganado os algoritmos” postando histórias normais e, no meio, adicionando histórias da guerra em curso.

Os usuários também adicionaram sons de bipes para ocultar narrações, alteraram a grafia de palavras comuns em inglês e árabe como “Palestina”, “genocídio” e “Hamas” para evitar a detecção e colocaram mensagens entre postagens regulares e reels com imagens e vídeos de Gaza sobre o genocídio em curso para espalhar a palavra. Alguns usuários estão adotando o “algospeak“, onde criam novas palavras no lugar de palavras-chave para que não sejam captadas por algoritmos e removidas das plataformas, uma tática de evasão usada para combater a moderação automatizada nas redes sociais.

A Global Voices conversou com Mona Shtaya, uma defensora dos direitos digitais radicada na Palestina, via LinkedIn, sobre o apartheid digital que os cidadãos palestinos têm vivido e a importância das grandes plataformas tecnológicas durante este período. Ela disse:

Given the inadequate and biased coverage by international mainstream media and the targeting of journalists, social media platforms should serve as a means for Palestinians to share their narrative. However, the reality differs significantly.

These platforms heavily censor Palestinian voices, shadowban Palestinians and their supporters, and infringe upon their rights to free speech, assembly, access to information, political participation, and protection from discrimination. These violations closely resemble those witnessed in 2021 [in Palestine], representing a systematic and deliberate suppression of Palestinian voices, as confirmed by the Sustainable Business Network and Consultancy (BSR) report. This highlights the platforms’ failure to uphold fundamental human rights principles.

Dada a cobertura inadequada e tendenciosa dos principais meios de comunicação internacionais e o alvo nos jornalistas, as plataformas de redes sociais deveriam servir como um meio para os palestinos partilharem a sua narrativa. No entanto, a realidade é completamente diferente.

Estas plataformas censuram fortemente as vozes palestinas, proíbem os palestinos e os seus apoiadores, e infringem os seus direitos à liberdade de expressão, reunião, acesso à informação, participação política e proteção contra a discriminação. Estas violações assemelham-se muito às testemunhadas em 2021 (na Palestina), representando uma supressão sistemática e deliberada das vozes palestinas, conforme confirmado pelo relatório da Sustainable Business Network and Consultancy (BSR). Isto realça o fracasso das plataformas em defender os princípios fundamentais dos direitos humanos.

Shtaya acrescentou como as falhas algorítmicas e a proibição oculta de conteúdo pró-Palestina estão causando problemas para as pessoas que tentam compartilhar suas histórias com o mundo e pedem um cessar-fogo imediato.

Ela disse: “A censura nas redes sociais está nos sufocando, exacerbando o nosso sofrimento e a luta contra a discriminação sistêmica, além de amplificar a autocensura e criar um efeito assustador, agravando a opressão enfrentada pelas comunidades marginalizadas”.

Sobre o que o público pode fazer para ajudar, Shtaya observou:

People should be aware of falling victim to disinformation and one-sided narratives. Social media censorship impedes Palestinians from sharing their perspectives. Therefore, the general public should proactively fact-check the news they receive regarding events on the ground and ensure they engage with and listen to the Palestinian narrative. Additionally, individuals should support Palestinian voices by following Palestinian accounts and sharing their content.

As pessoas devem se conscientizar de que podem ser vítimas de desinformação e de narrativas unilaterais. A censura das redes sociais impede os palestinos de partilharem as suas perspectivas. Portanto, o público em geral deve verificar proativamente a veracidade das notícias que recebe sobre os acontecimentos e se assegurar de interagir e ouvir a narrativa palestina. Além disso, os indivíduos devem apoiar as vozes palestinas, seguindo contas palestinas e compartilhando o seu conteúdo.

Em tempos de crise humanitária, as plataformas de redes sociais provaram ser o único meio de documentar acontecimentos e educar as pessoas em todo o mundo sobre os abusos e o sofrimento que vivem o povo envolvido. As plataformas que optam por discriminar certas identidades constituem uma grave violação dos direitos humanos e criam um apartheid digital que apenas agrava as crises.


Seerat Khan lidera programas da Digital Rights Foundation no Paquistão e realizou um extenso trabalho sobre gênero e tecnologia nos últimos sete anos. Ela trabalha principalmente com mulheres defensoras dos direitos humanos e jornalistas em temas importantes como proteção de dados, segurança on-line, gênero, privacidade e desinformação.

Inicie uma conversa

Colaboradores, favor realizar Entrar »

Por uma boa conversa...

  • Por favor, trate as outras pessoas com respeito. Trate como deseja ser tratado. Comentários que contenham mensagens de ódio, linguagem inadequada ou ataques pessoais não serão aprovados. Seja razoável.