QuitérIA: AzMina lança IA feminista para monitorar o legislativo

O Instituto AzMina apresentará, no próximo sábado (01/11), a QuitérIA, uma inteligência artificial feminista para monitorar a atividade parlamentar sobre direitos das meninas, mulheres e pessoas LGBTQIAPN+. O projeto tem nome inspirado em Maria Quitéria de Jesus – heroína baiana que rompeu barreiras de gênero para lutar pela Independência do Brasil. Ela desafiou as normas ao se vestir como homem para atuar politicamente, assumindo protagonismo político e desafiando uma estrutura dominada por homens.

A IA feminista da AzMina foi desenvolvida para analisar, de forma automatizada, proposições legislativas relacionadas a questões de gênero que tramitam no Congresso Nacional. Ela coleta, interpreta e classifica esse conteúdo considerando seus potenciais impactos, bem como dimensões de raça, classe, orientação sexual e outros aspectos interseccionais.

Uma IA diferente das outras

Mais do que classificar projetos de lei, a QuitérIA foi pensada para compreender o contexto social por trás das palavras. O objetivo é que o modelo – nome usado para esse tipo de IA – identifique a abordagem dos parlamentares a temas como violência de gênero, trabalho doméstico, equidade salarial e direitos reprodutivos. Após lançada, a ferramenta segue em aprimoramento para melhorar os resultados. No ano em que a AzMina completa uma década de jornalismo feminista, a QuitérIA é um marco importante da presença da organização no campo da inovação. Essa IA feminista renova o compromisso d’AzMina com ferramentas para enfrentar as desigualdades de gênero com informação de qualidade e independente. Desenvolvida com base em aprendizado de máquina, a tecnologia integra o projeto Elas no Congresso, que monitora a atividade parlamentar em Brasília desde 2019.

Novo capítulo para o Elas no Congresso

A decisão de incorporar a ferramenta ao Elas no Congresso foi uma maneira de aprimorar o trabalho constante de monitoramento semanal da atividade do Legislativo brasileiro em relação a questões de gênero. “Queremos que ela seja uma ferramenta útil para as organizações que lutam contra a violência de gênero e toda a sociedade poderem estar atualizadas para reagir”, detalha Helena Bertho, da diretoria estratégica d’AzMina. 

Atualmente, as avaliações que possibilitam a construção do painel de propostas e projetos  monitorados pelo Elas no Congresso dependem quase inteiramente de análise humana. Depois da coleta automática, nossa equipe interna separa os tipos legislativos que serão analisados, como projetos de lei e de decreto, e retira outros grupos, como requerimentos e sugestões. Depois disso, dezenas de voluntárias e especialistas de 25 organizações parceiras leem e classificam manualmente as proposições legislativas, avaliando se são favoráveis ou desfavoráveis à equidade de gênero. 

Do problema à inovação

A decisão de investir em inteligência artificial, mais do que surfar uma onda, surgiu de uma necessidade: lidar com o grande volume de projetos protocolados e otimizar recursos escassos. A diferença entre parte importante dos modelos de IA é que a QuitérIA foi treinada a partir de cinco anos de trabalho intelectual com recorte feminista, e não com base no que ‘está na internet’. 

Com a chegada da QuitérIA, essa etapa ganha agilidade. “A avaliação dos projetos de lei é uma tarefa meticulosa e repetitiva, que exige muito trabalho humano”, explica Ana Carolina Araújo, gestora de programas e projetos d’AzMina. “A ideia é automatizar essa primeira fase e liberar o trabalho das pessoas para análises mais sofisticadas.”

A novidade deve reduzir drasticamente o tempo de publicação dos dados do Elas no Congresso, que hoje leva até um ano e meio entre uma versão e outra. Segundo Ana Carolina, a meta é “oferecer análises atualizadas quase em tempo real, permitindo que organizações, ativistas e jornalistas acompanhem tendências legislativas e reajam rapidamente quando necessário”.

Desafios para o monitoramento estratégico

A QuitérIA foi concebida a partir de quatro pilares: coragem, precisão, interseccionalidade e acessibilidade. Seu objetivo é simples: tornar visíveis e compreensíveis os impactos da atuação de deputadas(os) e senadoras(es) na vida de meninas, mulheres e pessoas LGBTQIAPN+. De forma que todas, de estudantes a ativistas, de cidadãs comuns a mulheres em posição de liderança, possam tomar decisões a partir de informações confiáveis. 

Mas a execução é complexa. Roberta Viola, engenheira de machine learning (aprendizado de máquina) envolvida no projeto, explica que as métricas de avaliação em IA permanecem quase sempre quantitativas e técnicas. “Não existem ainda métricas amplamente aceitas que avaliem, por exemplo, se um modelo promove equidade de gênero, evita a reprodução de violência simbólica ou contribui para maior inclusão”. 

Segundo Roberta, essa lacuna só pode ser suprida por avaliações qualitativas humanas, como acontece no Elas no Congresso. Mas isso aumenta a suscetibilidade ao viés de quem avalia e “a lógica de mercado ainda privilegia eficiência, lucratividade e escalabilidade em detrimento da justiça social, o que impõe barreiras adicionais de apoio e financiamento.” 

IA não é um produto acabado

Na prática, aquele objetivo simples exige uma solução complexa, demorada e custosa. Somado a essas dificuldades está o fato de não existirem modelos de IA treinados em português brasileiro para avaliar proposições legislativas, levando a equipe a começar do zero. 

“Mesmo com os avanços recentes, ainda faltam recursos linguísticos para o português e equipes diversas capazes de implementar modelos de forma responsável”, acrescenta Adriano Belisario, pesquisador e um dos desenvolvedores da QuitérIA. Ele também cita a demanda de interpretação do “juridiquês” dos textos, que por vezes ocultam os reais impactos que as propostas terão”.

Para Belisario, a IA nunca é um produto acabado, mas permanece em processo contínuo de desenvolvimento. “Ela pode ser uma aliada poderosa para quem precisa lidar com grandes volumes de dados, como é o caso do monitoramento legislativo”. Roberta Viola complementa: “É sobre criar tecnologia que compreenda a vida real das mulheres e não apenas reproduza padrões de exclusão.”

Tecnologia feminista

A associação entre feminismo e tecnologia, proposta na essência da Revista e do Instituto AzMina, e reforçada nesta nova ferramenta, contribui para associar dimensões que, em muitos momentos, andam em sentidos opostos. Embora as mulheres estejam na raiz do desenvolvimento tecnológico – a primeira programadora da história foi uma mulher: a britânica Ada Lovelace –, os homens seguem sendo a maioria na área.

O resultado da ausência de mulheres no desenvolvimento das IAs é a criação de modelos enviesados, estereotipados e preconceituosos, que repetem as práticas patriarcais do mundo analógico. Assistentes virtuais como Alexa, Siri e Cortana são ótimos exemplos, como sugere o relatório da Unesco “I’d blush if I could” (2019) – “Eu ficaria vermelha se pudesse”, em tradução livre. “Como a fala da maioria dos assistentes de voz é feminina, isso envia um sinal de que as mulheres são ajudantes prestativas, dóceis e ansiosas por agradar, disponíveis ao toque de um botão ou com um comando de voz direto como ‘ei’ ou ‘OK’”, diz um trecho do documento.

Além disso, LLMs como o Chat GPT e Claude, além de modelos utilizados para classificação de gênero e identificação racial disponíveis no mercado, são apontados pelo relatório como tecnologias que repercutem visões patriarcais e tradicionais de gênero e de divisões sociais relacionadas ao sexo.

IA do Sul Global

Para Helena Bertho, da diretoria estratégica da AzMina, a QuitérIA reforça um posicionamento do Instituto, que está ainda mais atento à tecnologia. “AzMina se transformou muito ao longo dos seus 10 anos. O olhar para tecnologia desenvolvida a partir de uma ética feminista se tornou parte central do que a organização é hoje.” Neste sentido, ela abre caminho rumo a soluções tecnológicas e inovação mais justas e inclusivas. “Ou a gente cria e usa a IA a partir da nossa perspectiva feminista, decolonial e do Sul Global, ou vamos estar eternamente reféns das tecnologias que vêm do Norte”, afirma.

Lucía Mesa Velez, pesquisadora de IA colombiana e doutoranda da universidade de Giessen (Alemanha), tem uma visão semelhante. Ela está investigando iniciativas que têm a proposta de “AI for good”, ou seja, IA usada para o bem. E seus primeiros resultados mostram que mesmo as iniciativas com propostas contra-hegemônicas carregam vieses negativos. “As soluções e a própria ideia do que é ‘IA para o bem’ são construídas a partir do Norte Global, de acadêmicos ou organizações, incluindo ONGs ou mesmo a ONU, mas quem define o que é um problema e qual é a solução adequada está localizado no Norte.” Neste universo, o Sul é visto, segundo ela, como um lugar cheio de problemas e incapaz de resolvê-los sozinho.

Mas é nesse contexto de centralização do conhecimento e explosão reacionária global aos avanços dos direitos das mulheres que surgem inovações tecnológicas de resistência, de acordo com Lucía. “Quando há esse tipo de opressão tão direta, isso também dispara a imaginação, a criatividade e as alianças que existem entre comunidades”, defende a pesquisadora. Ela acredita que iniciativas em IA com a QuitérIA, que não demandem  processamento massivo, podem ser a saída para o enfrentamento.

Ou seja, vale a pena insistir.