Vereador Ramiro Rosário, durante sessão na Câmara Municipal de Porto Alegre | Foto de Leonardo Lopes/CMPA, usada sob permissão, editada por Global Voices

Depois que um projeto de lei foi aprovado pela Câmara Municipal de Porto Alegre, no Rio Grande do Sul, localizado no extremo sul do Brasil, e sancionado pelo prefeito, o vereador que o apresentou decidiu revelar que o texto foi escrito e incluiu sugestões feitas por inteligência artificial (IA).

O projeto de lei que isenta as pessoas do pagamento de um novo hidrômetro em caso de furto foi aprovado por unanimidade pelos vereadores.

O vereador Ramiro Rosário revelou que sua participação na concepção do texto foi enviar ao ChatGPT uma diretiva com 289 caracteres. A ferramenta entregou um projeto de lei com oito artigos e justificativa, que estava incompleto na minuta inicial devido ao limite de caracteres — algo que o vereador não detectou até ser avisado pela Seção de Redação Legislativa da Câmara, e por isso voltou à plataforma de IA para obter assistência adicional.

Em entrevista ao jornal Folha de S. Paulo, ele disse:

É comum vereadores, para elaborarem leis nas suas cidades, buscarem como base uma lei parecida de outra cidade com a mesma finalidade e copiarem a redação. O ChatGPT faz a mesma coisa do jeito dele, recorrendo a um banco de dados de leis que já estão na internet. Considerando que estamos falando de dinheiro público, acho que a tecnologia tem muito a contribuir.

O vereador ficou satisfeito com uma das propostas originais da IA: isentar o proprietário do imóvel do pagamento da conta de água até a substituição do aparelho.

“Achei uma boa ideia e mantive, embora não tenha sido minha”, disse ele, segundo o Matinal Jornalismo.

Rosário só revelou o uso de uma IA depois que o prefeito a sancionou, segundo ele, para gerar debate sobre o assunto. Embora não haja obstáculos legais para impedir regulamentações escritas por IA nas leis brasileiras, o presidente da Câmara Municipal, Hamilton Sossmeier, disse ao canal de notícias G1 que considerou isso um “precedente perigoso”:

Considero estranho. É a primeira vez que acontece, e não tem nenhuma lei que indique que eu não possa aprovar. Hoje, não tem nada que proíba. Mas, na minha ótica, é um precedente perigoso, complicado. Podem vir outras leis mais complexas, que gerem outros tipos de impacto. Por enquanto, fica minha preocupação pessoal.

Perigo em potencial

O ChatGPT foi criado pela empresa de tecnologia OpenAI, com sede nos EUA, com base em um modelo de linguagem lançado ao público em 2022. Ele emprega deep learning para gerar uma escrita semelhante à humana e opera em um design de chatbot. Embora a flexibilidade e as capacidades produtivas dos grandes modelos de linguagem possam ajudar com prosa, poesia e programação, por exemplo, eles também levantam preocupações sobre o uso indevido.

Na legislação, o ChatGPT também tem sido utilizado fora do Brasil. No início de 2023, um legislador de Massachusetts usou o ChatGPT para redigir uma lei para controlar modelos de inteligência artificial generativa. “O ChatGPT nos forneceu 70% do que precisávamos quando queríamos redigir este projeto de lei, mas não nos levou até o fim”, disse o senador de Massachusetts Barry Finegold, responsável pela ideia.

ChatGPT gera frases com base em seu conjunto de dados. Opera em dois modelos: uma versão paga, com banco de dados atualizado em 2023, e uma versão gratuita, cujo conjunto de dados mais atual abrange conhecimento até 2021. Além de levantar questões sobre propriedade e direitos autorais, manter a objetividade e evitar preconceitos em contextos políticos é uma preocupação para alguns observadores.

Além disso, o ChatGPT tem um grande potencial para gerar desinformação e “alucinar”. As alucinações acontecem quando um modelo de IA cria resultados que se desviam do que seria considerado normal ou previsto com base nos dados do treinamento que recebeu.

O Congresso Nacional do Brasil está analisando atualmente um projeto de lei que visa regulamentar o uso de IA no país. A transparência, a proteção da privacidade e a defesa dos valores democráticos devem ser respeitadas, de acordo com a forma atual do texto.

No Senado Federal do Brasil também está em discussão outro projeto de lei, que visa regulamentar o uso da inteligência artificial e sua implementação, propondo uma avaliação de risco antes que o serviço seja disponibilizado no país.