Os espaços on-line perpetuam estereótipos sobre quem os cria e sobre os dados que neles são inseridos — atualmente, de forma predominante, homens. Esse fenômeno global vem impulsionando a construção de alternativas tecnológicas, como a Rede Feminista de IA da América Latina e do Caribe.Alexa, Siri, Lu, Bia: por que assistentes virtuais são geralmente associadas ao gênero feminino?Viés sexista: Algoritmos reproduzem machismo e racismo por se basearem em práticas discriminatórias dos humanosA literatura tecnológica está repleta de exemplos de viés de gênero. Sistemas de reconhecimento de imagens têm dificuldade para identificar com precisão mulheres, especialmente mulheres negras, o que já resultou em identificações equivocadas com consequências graves para as forças de segurança.Assistentes de voz, por muito tempo, utilizaram exclusivamente vozes femininas, reforçando o estereótipo de que mulheres seriam mais adequadas a funções de serviço.Na geração de imagens, as IAs costumam associar o termo “CEO” a um homem, enquanto uma busca por “assistente” retorna imagens de mulheres.— A inteligência artificial se alimenta de dados que não são neutros: ela reflete sociedades marcadas por desigualdades históricas e relações de poder. Se uma empresa deseja obter resultados justos, precisa analisar os conjuntos de dados, verificar sua representatividade e intervir ativamente quando isso não ocorre. A equidade não surge sozinha: ela precisa ser projetada — afirmou à agência ANSA Ivana Bartoletti, especialista internacional em governança da IA e autora de um estudo do Conselho da Europa sobre inteligência artificial e gênero.Galerias RelacionadasPara Bartoletti, o recente caso do Grok — a IA de Elon Musk que permitia gerar imagens falsas de mulheres e menores nus, função que depois foi descontinuada — “mostra o que acontece quando a segurança e os direitos das mulheres não são considerados no desenho dos sistemas”. — Se existem ferramentas para despir mulheres, elas serão usadas. Os nudes deepfake são uma forma de humilhação e controle. A mensagem implícita é perigosa: você está on-line, portanto, merece isso. É assim que muitas mulheres são silenciadas e abandonam o espaço digital — explicou.É nesse contexto que surgem alternativas tecnológicas para repensar a inteligência artificial e transformá-la em um espaço de luta e de poder compartilhado.IAs feministasNa América Latina e no Caribe, por exemplo, surgiu a Rede Feminista de IA, que apoia dezenas de projetos voltados à transparência e às políticas públicas. Ferramentas como AymurAI, Arvage AI e SofIA aplicam a perspectiva de gênero à análise jurídica e expõem os vieses e a discriminação inerentes aos algoritmos.O afrofeminismo também vem reivindicando a inteligência artificial como um espaço de autodeterminação, com assistentes como o AfroféminasGPT, treinados com base no conhecimento e nas vozes de pessoas negras.— Elas demonstram que podemos nos organizar para usar a IA em benefício de todos, compartilhar dados de forma coletiva e desenvolver soluções centradas em necessidades reais. Mas a chave continua sendo o poder. A questão feminista na IA é uma questão de poder: as mulheres precisam ter mais poder. Não nas margens, mas no topo das empresas e nos espaços onde se decidem as políticas tecnológicas. Precisamos de diversidade nos ambientes de tomada de decisão, não apenas entre quem programa. A inteligência artificial não é apenas tecnologia, é uma escolha sobre como queremos transformar a sociedade — concluiu Ivana Bartoletti.
Entenda como funciona IA feminista da América Latina
