Eu sempre mantive uma leitura crítica sobre as inteligências artificiais, lendo e aprendendo com colegas que se dedicam mais a estudar os fenômenos relacionados aos impactos das IAs, especialmente as violências racistas e de misogynoir — termo usado pelas Minas Programam que traz uma fusão da misoginia e do racismo como violências direcionadas a mulheres negras. Minha primeira experiência prática com essas tecnologias foi durante minha pesquisa de doutorado, quando comecei a experimentar algumas plataformas que transformavam texto em imagem.
Naquela fase, recebi ajuda de algumas pessoas para conseguir imagens sobre a Amazônia em diferentes plataformas, visto que existe uma concepção de vazio demográfico sobre a região, que vem dos tempos de colonização interna, e ainda é muito presente no imaginário brasileiro. Tanto que essas plataformas todas me deram imagens de uma Amazônia desumanizada. No dia que eu pedi especificamente para a IA gerar uma imagem sobre “pessoas amazônidas” o resultado foi perturbador.
Não dá conta de acompanhar as notícias? Deixe que a gente te ajuda!
Primeiro, a imagem gerada apresentava cinco figuras: simulacros de homens indígenas no interior do que seria uma floresta. Homens com o tórax aparecendo, alguns usando um tipo de cocar inventado pela IA, com roupas que simulavam vestes e adereços tradicionais (mas não são). Os semblantes oscilavam entre os estereótipos de “nativos selvagens” e do “bom selvagem”, e os corpos fictícios tinham pés disformes. Leituras que são inquestionavelmente coloniais, racistas, machistas, ultrapassadas, mas estão aí pulverizadas nas IAs.
Para além desses padrões de design serem manipulados, a infraestrutura da IA é uma violência à humanidade, as políticas de transparência são insuficientes. E ainda que a literacia seja importante, é crucial a ciência sobre o que tem sido construído como violências contra mulheres a partir do uso de IAs.
Leia Mais: Quando a violência contra mulheres passa pelas telas
Vieses perpetuados pela tecnologia
Não é um problema apenas da IA. Mas a reprodução dessa concepção sedimentada no imaginário do país, como afirma Renata Wassermann, amplifica e fossiliza ideias e perpetua a transmissão em cadeia desses vieses, ao invés de apresentar outros imaginários. E isso acontece porque quem programa e quem treina a linguagem traz seu próprio repertório para os modelos que estão sendo treinados. Isso tem relação com quem estuda, trabalha e pesquisa na área, que é de maioria masculina, jovem e branca sem leitura e compreensão sobre violências que afetam a sociedade de maneira mais ampla.
Mas se a IA generativa impacta na leitura que se tem sobre toda uma região e parte significativa da população que vive nessa região, qual tem sido o papel do “feminino” para esses vieses? E quais são os possíveis impactos na cultura, no conhecimento e nessa disseminação de verdades que se cristalizaram a partir de repertórios de homens ensimesmados? Quais as leituras feitas sobre esse feminino? Quais repertórios estão treinando essas linguagens?
Como exemplo, para este texto, pedi ao Gemini imagens sobre gravidez na adolescência e, sem nenhuma surpresa, as imagens geradas foram todas de meninas negras. Sabemos que a racialização nesses dados é real, mas não é só sobre dados, é também sobre o impacto dos vieses nas vidas de mulheres e meninas.
Leia Mais: Mulheres na tecnologia: da invisibilidade à disputa pelo futuro digital
Como a inteligência artificial reproduz estereótipos sobre mulheres
Foi em um workshop de IA Generativa (IAG) que tive aqui na universidade à qual estou vinculada que me surpreendi comigo mesma ao me ver encantada com as facilidades que esses sistemas oferecem. Mesmo mantendo a leitura crítica e o olhar desconfiado sobre os danos causados por essas infraestruturas e linguagens, eu fui tomada por um “quê” de encantamento que nunca tinha experimentado em relação às ferramentas de IA que estão em alta, como mencionarei à frente.
São ferramentas que prometem e até entregam muitas facilidades para a vida cotidiana, seja de trabalho, estudo, pesquisa. Então temos ferramentas que nos ajudam com esquemas, infográficos, organização dos estudos, revisão de tradução e de texto, que resume e deixa nosso trabalho mais bonito e até “cria” conceitos. As pessoas até nos entendem melhor!
Mas quem produz essas plataformas e o que vem junto com toda essa facilidade precisam estar no nosso horizonte. O que elas provocam e reforçam sobre e contra as mulheres precisa ser desencantado. Em 2023 escrevi um pequeno artigo sobre imagens de controle e inteligência artificial generativa, para compreendermos como o repertório racista e machista nesses modelos de linguagens se baseia em um padrão.
Claude, NotebookLM, Gemini, ChatGPT, AI Studio, Copilot, Perplexity, muitos nomes, muitas linguagens. Todas vinculadas às grandes corporações, aos monopólios tech, com seus modelos de linguagem natural, treinando máquinas que criam conteúdos e simulam uma personalidade, até mesmo uma humanidade. Penso no filme Her, com Joaquin Phoenix, e como milhares de pessoas da nossa vida real têm usado algumas dessas plataformas para relacionamentos amorosos: mulheres que buscam perfis que não as magoam, homens que procuram perfis que não reclamem.
Leia Mais: IAs feministas e de direitos humanos contra o discurso de ódio e a desinformação
Gênero e inteligência artificial: da Rosie à Alexa
Pensar sobre o lugar da mulher no ambiente das IAs me fez lembrar de alguns debates que já participei sobre Os Jetsons, um desenho da minha infância ambientado num “futuro” que projetava os anos 2000. Era uma produção dos estúdios Hanna-Barbera, com carros que voavam, muita tecnologia e um robô que fazia o trabalho doméstico, cujo nome era Rosie. Aparentemente, romper com a atribuição do trabalho de cuidado às mulheres parecia muito ousado para os Jetsons. No futuro, as figuras femininas continuariam sendo responsáveis pelo zelo doméstico.
Só que depois da Rosie, vieram Alexa, Siri e Cortana. Todas criadas para auxiliar no dia a dia doméstico, prestando serviços e sempre disponíveis para “ajudar”. Mas nem para estas “IAs femininas” as coisas são fáceis. O Banco Bradesco registrou tantas dezenas de assédios contra a BIA, sua inteligência artificial de auxílio aos clientes, que teve de adotar uma postura estratégica no combate à violência. Da mesma forma, já ouvi algumas dezenas de ofensas à voz feminina do aplicativo de trânsito.
O repertório a respeito da figura feminina dialoga de perto com a reduzida atuação de mulheres nas áreas computacional e robótica, assim como nas mesas de decisão dos modelos de negócios dessas corporações. Mas mesmo entre os grupos de mulheres que trabalham neste campo, é preciso atenção para que os padrões sejam quebrados, ou ainda teremos por muito tempo pessoas brancas sendo a maioria.
Tive acesso aos estudos da pesquisadora Joy Buolamwini, que analisa de forma interseccional como padrões de inteligência artificial (não) reconhecem perfis femininos, especialmente de mulheres negras. Sua tese mostra que uma consequência da sub-representação é que as IAs classificam esses perfis das piores formas. Isso vem ao encontro da nossa reclamação e da nossa quizumba na construção do conhecimento: abram espaço na mesa, pois temos contribuições importantes a fazer.
Como mulher negra amazônida, pesquisadora da Comunicação e ativista pelos direitos digitais, entregar o conhecimento que trago comigo, fruto de uma formação coletiva e multidisciplinar, para estas bases proprietárias não me parece o melhor para nós. Lembro sempre que a principal missão do Google é organizar as informações do mundo e deixá-las universalmente acessíveis e úteis. Isso à primeira vista é uma ação muito importante, mas ao longo do tempo temos visto o quão danosa pode ser essa tal organização sob um viés colonizador.
Mas temos algumas saídas, a pesquisadora Renata Wassermann apresenta algumas dicas de IAs para experimentarmos e, inclusive, contribuirmos para a melhoria, em sistema de coletividade e códigos abertos: Black in AI; Queer in AI; Latinx in AI; Women in Machine Learning; Women in AI; {Dis}Ability in AI e Indigenous in AI. Vamos testá-las!
*Arte: Giulia Santos
**Texto revisado com uso de IA
Amazônida de Belém, Ekedji de Oxum no Ilê Yaba Omi, pesquisadora no campo da comunicação e direitos digitais e integra o Centro de Estudos e Defesa do Negro no Pará.
PA
