Pesquisa expõe como sistemas de reconhecimento facial reproduzem desigualdades sociais
Antes de reconhecer alguém diante da câmera, um sistema de inteligência artificial (IA) precisa decidir se aquele rosto “existe”. É justamente nesse momento, anterior à identificação, que, segundo a cientista da computação Ana Carolina Silva das Neves da Hora, mais conhecida como Nina da Hora, começam os apagamentos produzidos pelas tecnologias de reconhecimento facial, tema de sua tese de mestrado, Do Rosto ao Vetor: Epistemicídio Computacional no Reconhecimento Facial, defendida nesta segunda-feira (11), no Instituto de Computação (IC).
Orientada pela professora Sandra Avila, do IC, e coorientada pela antropóloga Marisol Marini, da Universidade de São Paulo (USP), a tese teve na banca examinadora a socióloga Angela Figueiredo, da Universidade Federal do Recôncavo Baiano (UFRB), e o pesquisador Virgílio Almeida, da Universidade Federal de Minas Gerais (UFMG).
A pesquisa combina reflexão teórica e experimentos computacionais para analisar desigualdades em arquiteturas de detecção facial amplamente utilizadas em sistemas de IA. Da Hora propõe o conceito de “epistemicídio computacional”, inspirado nos trabalhos da filósofa Sueli Carneiro sobre o apagamento de sujeitos negros na produção do conhecimento. O trabalho multidisciplinar reúne computação, antropologia, artes visuais, estudos raciais e filosofia.
A pesquisadora auditou arquiteturas de detecção facial utilizando uma base criada pela Meta, dona do Facebook, do Instagram e do WhatsApp, a partir de vídeos enviados por pessoas de países como Brasil, Índia, Síria e Indonésia. Os resultados revelaram desigualdades profundas nos processos de detecção facial. “O dano já começa antes, quando o sistema sequer detecta aquele rosto como um rosto válido”, explica.
Em um dos experimentos, pessoas acima de 85 anos tiveram apenas 44% de taxa de detecção, enquanto grupos mais jovens alcançaram índices superiores a 90%. Em outros casos, determinados grupos simplesmente desapareciam dos sistemas. “Tivemos grupos com 0%. Normalmente, quando aparece um 0%, você roda o sistema de novo e tenta corrigir. Mas quis investigar por que aquelas pessoas tinham desaparecido”, diz.


Segundo Da Hora, os sistemas simplificam realidades complexas ao transformar diversidade humana em categorias rígidas. “É como se não existissem variações. Ou você é branco ou você é negro. Mas nós sabemos que isso não representa países como o Brasil.”
Mais do que erros técnicos, a pesquisadora vê nesses resultados a materialização de escolhas políticas e históricas. “A etapa do reconhecimento só acumula problemas. Primeiro, o sistema precisa decidir que existe um rosto ali.” Em muitos casos, afirma, nem mesmo a autodeclaração das pessoas é suficiente. “Quando eu mando um vídeo dizendo quem eu sou, pessoas do outro lado podem dizer que eu não sou aquilo que estou dizendo. E, às vezes, a palavra delas vai valer mais.”
Segundo a pesquisadora, o problema não está apenas na precisão técnica. “A questão não é fazer a tecnologia funcionar melhor”, afirma. “É perguntar por que estamos insistindo em tecnologias que transformam pessoas em padrões de vigilância.”
Da Hora vê a expansão dessas tecnologias como parte de uma transformação maior nas formas de controle social e circulação da informação. “O reconhecimento facial e as inteligências artificiais são vendidos como solução para tudo. Mas, muitas vezes, o que elas produzem é exclusão e aprofundamento de desigualdades. Eu queria entender o que se perde quando você transforma o rosto de uma pessoa em vetor matemático”, afirma.
“Você olha para um rosto e tenta resumir aquela pessoa a medidas, padrões e probabilidades. Só que ali existe história, contexto e identidade”, destaca.
Além da dissertação, a pesquisadora tem novos trabalhos acadêmicos. Um deles, intitulado Frankenstein em Processo: Epistemicídio Computacional no Reconhecimento Facial, será apresentado em junho, no Canadá, em uma conferência mundial sobre justiça algorítmica. No artigo, ela aproxima a lógica dos sistemas de reconhecimento facial da figura do personagem Frankenstein. “Você pega retalhos e monta uma pessoa”, explica. “Fragmenta o rosto e tenta contar a história de alguém apenas a partir daquilo.”

Ativismo e ética
Prestes a completar 31 anos, Nina da Hora se tornou uma das vozes mais conhecidas da discussão sobre tecnologia e racismo algorítmico no país. Colunista da MIT Technology Review Brasil, pesquisadora do Centro de Tecnologia e Sociedade da Fundação Getúlio Vargas (FGV), integrante da comissão de tecnologia do Tribunal Superior Eleitoral (TSE) e fundadora do Instituto da Hora, ela construiu uma trajetória que atravessa ciência, ativismo e divulgação tecnológica.
Em poucos anos, acumulou reconhecimentos importantes. Em 2022, recebeu o CUBS Sabiá Award, da Universidade de Cambridge, no Reino Unido, pela pesquisa sobre racismo algorítmico no reconhecimento facial. Antes disso, entrou para a lista Forbes Under 30 e foi incluída entre as 100 mulheres mais relevantes do mundo em ética em inteligência artificial.
Embora hoje seja conhecida nas redes como “hacker antirracista”, a pesquisadora explica que sua trajetória passou menos pela invasão de sistemas e mais pela cibersegurança. Ela trabalhou com análise de hardware e investigação técnica de códigos, especialmente em projetos ligados às urnas eletrônicas e à transparência eleitoral nas eleições de 2022. “Eu trabalhei mais com hacker ético”, afirma. “Depois, os caminhos me levaram para a inteligência artificial e ‘hacker’ acabou virando mais um apelido”, conta.
Essa preocupação atravessa também sua atuação pública. Depois de integrar a Comissão de Transparência das Eleições de 2022, Da Hora volta a colaborar com o TSE, agora em discussões ligadas à inteligência artificial, plataformas digitais e regulação tecnológica. Ela acredita que as próximas eleições brasileiras serão profundamente impactadas pelo avanço da IA generativa. “Essa vai ser a eleição da inteligência artificial”, afirma. “Nós já temos dificuldade de diferenciar o que é real e o que não é. Isso vai aumentar muito nas campanhas.”
Segundo Da Hora, embora o TSE tenha aprovado regras para limitar determinados usos de IA durante o período eleitoral, ainda existem poucas ferramentas capazes de detectar manipulações em larga escala. “A disputa agora também acontece no campo da confiança”, observa. “As pessoas vão olhar vídeos, imagens, áudios, e muitas vezes não vão saber se aquilo aconteceu de verdade.”
Outro eixo importante de sua atuação está no Instituto da Hora, organização criada em 2020 para discutir direitos digitais, IA e soberania tecnológica a partir de perspectivas antirracistas. O instituto mantém projetos voltados à formação de jovens periféricos em segurança da informação e apoio a pessoas LGBTQIAPN+ interessadas em pesquisa e tecnologia. “A gente trabalha muito nesse momento do ‘pré’ e do ‘durante’ tentando ajudar as pessoas a chegar nesses espaços e permanecer neles.”


Fora do roteiro
Quando chegou à Unicamp, vinda da Baixada Fluminense (RJ), Da Hora carregava a sensação de estar em um território que, durante muito tempo, parecia não lhe pertencer. “Tinha um roteiro muito mais simples para a minha vida”, afirma. “Fazer pesquisa na Unicamp não fazia parte do roteiro.”
A pesquisadora aprendeu programação ainda adolescente no computador de uma tia e com materiais emprestados por amigos da mãe, a professora Ana Cláudia, que prestigiou a defesa do mestrado na Unicamp.
Antes de chegar ao curso de graduação em Ciência da Computação, na Pontifícia Universidade Católica do Rio de Janeiro (PUC-RJ), conciliou estudos, trabalho e longos deslocamentos diários. Na faculdade, o choque social foi imediato. “Eu vivia em outra realidade, as pessoas perguntavam, por exemplo, por que eu trabalhava.”
Na Unicamp, o estranhamento voltou em outra escala. “É outro mundo ao quadrado”, afirma. “A Unicamp, para mim, tem uma diversidade muito maior do que outros espaços por onde passei. Ela é um mundo de oportunidades.”
Entre uma conferência internacional, experimentos computacionais e debates públicos sobre tecnologia, a pesquisadora tenta administrar a dimensão mais íntima de tudo o que conquistou nos últimos anos. “Se eu pudesse traduzir meu sentimento, é uma mistura de muito orgulho do que eu fiz e o medo de perder. Fiquei em alerta durante esses três anos.”
Depois da defesa, planeja descansar por algumas semanas antes de decidir os próximos passos do doutorado, possibilidade já discutida por grupos da própria Universidade. Enquanto fala sobre o futuro, Da Hora retorna várias vezes à ideia do improvável. Não como exceção individual, mas como abertura de caminhos. “Hoje eu encontro estudantes chegando na computação com os olhos brilhando”, conta. “E eu penso muito nisso, porque eu também não imaginava que conseguiria chegar aqui.”
Foto de capa:

O post Pesquisa expõe como sistemas de reconhecimento facial reproduzem desigualdades sociais apareceu primeiro em Jornal da Unicamp.


























































Podem participar, respondendo questionário, homens a partir dos 60 anos 






















Estudo da Faculdade de Odontologia de Bauru quer avaliar moradores de cidades do interior de São Paulo sobre tendências e padrões de uso de cigarro eletrônico entre adultos; preenchimento do formulário on-line leva cerca de dez minutos 



























































