Imagem de Joseph Mucira de Pixabay. Usada sob uma Licença de Conteúdo Pixabay.

A Inteligência Artificial (IA) é um dos avanços mais importantes do nosso tempo e deverá revolucionar os setores fundamentais, mas com sua crescente popularidade surgiu a investigação minuciosa dos potenciais danos e riscos associados à utilização e implantação em larga escala da tecnologia. A Organização das Nações Unidas reconheceu as ameaças do uso não regulamentado da IA aos direitos humanos, particularmente no direito à privacidade, à liberdade de expressão, à liberdade de pensamento e ao direito ao devido processo legal. Apesar disso, a adoção da IA continuou a ultrapassar as proteções legislativas, deixando populações vulneráveis a agentes maliciosos.

Embora essa seja uma preocupação universal, a dinâmica a nível regional e os registros individuais, em matéria de direitos humanos, demonstram que os níveis de exposição ao risco variam de país para país, talvez até de região para região. Na América Latina, a tecnologia de vigilância está em ascensão e a falta de transparência leva a impactos no mundo real, tanto no âmbito individual como social. O México é um excelente exemplo.

O México foi o primeiro cliente governamental registrado e o usuário mais prolífico do Pegasus spyware – um software comumente usado para vigiar telefones e dispositivos de jornalistas, trabalhadores da sociedade civil e ativistas. Desde 2011, gastou mais de US$ 80 milhões na tecnologia. Adquirido ostensivamente para uso contra terroristas e cartéis de drogas, as evidências mostram que foi utilizado contra jornalistas, ativistas e opositores políticos.

Durante a administração anterior, peritos internacionais encarregados de investigar os desaparecimentos de estudantes de Iguala em 2014 foram vigiados e intimidados, provocando um escândalo internacional, mas o uso inescrupuloso do Pegasus continuou mesmo durante o mandato do atual presidente López Obrador, sugerindo um problema sistêmico com a abordagem do país à utilização do notório spyware e do seu respeito geral pelos direitos e liberdades civis.

O problema vai além do projeto Pegasus. Instalado na Cidade do México está um dos maiores sistemas de vigilância urbana das Américas: El Centro de Comando, Control, Cómputo, Comunicaciones y Contacto Ciudadano, mais conhecido como El C5. A rede, conectada a botões de pânico e centros de comando, está espalhada por 1.485 quilômetros com software projetado para detectar automaticamente placas de veículos. Além disso, o número de câmeras instaladas aumentou de 18 milhões para 65 milhões entre 2018 e 2022, com planos declarados para adicionar pelo menos mais 16 milhões. Apesar da sua aparente preeminência, surgiram problemas com o C5, desde identificações falsas até o tratamento indevido de dados pessoais. Foi também demonstrado que as disfunções tecnológicas afetam os resultados dos processos criminais devido ao pressuposto de objetividade que a vigilância por vídeo supostamente concebe.

O extenso sistema C5 é ofuscado apenas pelo Titan, uma ampla base de dados de inteligência e segurança, tanto em termos de escala como de ameaça às liberdades civis. O software é usado por vários governos estaduais mexicanos para combinar dados de localização com outras informações privadas, incluindo dados financeiros, governamentais e de telecomunicações, a fim de localizar geograficamente indivíduos em todo o país em tempo real. Os funcionários governamentais foram criticados pela utilização controversa da base de dados para atingir figuras públicas, porém, ainda mais preocupante é que o acesso à inteligência habilitada do Titan pode ser feita através de um mercado clandestino, tornando-o um risco maior.

O alcance da inteligência artificial que foi incorporada no C5 e no Titan ainda não está clara, mas a sombra da vigilância permanece grande e deverá causar mais preocupações com a adição de novas tecnologias inteligentes.

Na fronteira, os problemas são mais aparentes. Um memorando de entendimento (MOU) entre o governador do Texas, Greg Abbott, e o governador de Chihuahua, Maru Campos, determinou planos para a Torre Centinela (Torre Sentinela), um edifício de vigilância de 20 andares situado em Chihuahua. Ao custo de quase US$ 200 milhões, o edifício deverá incluir “1.791 leitores automatizados de placas de veículos, 3.065 câmeras pan-tilt-zoom e 74 drones” conectados a “transmissões ao vivo de câmeras pertencentes a empresas e residentes do bairro” e equipados com filtros biométricos para reconhecimento facial. A tecnologia de IA também será conectada ao registro de carteiras de motorista do estado de Chihuahua para facilitar a pesquisa de dados e a identificação de pessoas.

Do lado da fronteira dos EUA, os residentes mexicanos também estão sujeitos a uma infraestrutura de vigilância invasiva reforçada pela tecnologia de IA. Empresas como Anduril e Elbit Systems são contratadas pelo governo dos EUA para usar sensores, drones e até realidade virtual (RV) auxiliada por inteligência artificial para identificar pessoas e objetos nos dois lados da cerca. No México, além da segurança fronteiriça, a IA tem sido utilizada para a elaboração de políticas baseadas em evidências, como assistência em determinados julgamentos, e no setor da saúde para gestão de recursos e diagnósticos baseados em dados.

Em comparação com outros países da América Latina, o México está atrasado na aquisição e implantação de tecnologias de IA, mas é provável que isso mude no futuro, à medida que a utilização de tecnologias emergentes se torna mais difundida em todo o mundo. O potencial impacto revolucionário da IA em setores como saúde, finanças e segurança já foi reconhecido e recebeu apoio verbalizado de alguns dos principais políticos do país, incluindo Marcelo Ebrard, um dos favoritos nas próximas eleições presidenciais, que propôs o uso de tecnologia de reconhecimento facial como parte das estratégias de combate ao crime do país.

As ambições ultrapassaram o desenvolvimento de ferramentas e normas legislativas apropriadas para controlar a utilização e implantação da inteligência artificial e tecnologias associadas. No entanto, existem algumas medidas em vigor. Em 2018, o México produziu uma estratégia de IA que destacou a necessidade de um quadro de governança e determinou os desafios que as tecnologias emergentes colocavam aos direitos de privacidade. Existem também várias leis que contêm disposições para regular certos aspectos do uso da IA, incluindo a lei de proteção de dados (Ley Federal de Protección de Datos Personales), a lei de proteção ao consumidor (Ley Federal de Protección al Consumidor), e a lei de concorrência econômica (Ley Federal de Competencia Económica). Além disso, o Senado mexicano criou a Aliança Nacional para Inteligência Artificial (Alianza Nacional de Inteligencia Artificial, ou ANIA) em 2023, para “fortalecer o ecossistema de inteligência artificial no México”.

Apesar desses desenvolvimentos e da existência de 18 iniciativas ativas relacionadas com a IA, a falta de leis específicas deixa a população mexicana exposta. Conforme a inteligência artificial continua a avançar, a legislação deve ser desenvolvida para responder aos problemas e desafios únicos que surgem com a nova tecnologia. Esse é o caso de países de todo o mundo, mas especialmente de países como o México, onde a existência de sistemas abrangentes de vigilância estatal e de tecnologias que violam a privacidade deixou a sua população mais vulnerável aos impactos adversos da adoção generalizada da IA, tanto pelo Estado como pelas entidades privadas.