De filtros de selfie a sistemas de verificação em bancos e órgãos públicos, o reconhecimento facial com inteligência artificial (IA) se tornou parte do cotidiano. Mas para milhões de pessoas com condições que afetam as características do rosto, essa tecnologia tem falhado, e de forma dolorosa. Rostos com marcas de nascença, assimetrias, deformações ou condições craniofaciais muitas vezes não são reconhecidos por algoritmos que deveriam facilitar o acesso a serviços essenciais.
- Para que serve a inteligência artificial? 4 usos além dos chatbots
- Falha na IA | Estamos ensinando sistemas a buscar curtidas e cliques — entenda
De acordo com a organização Face Equality International (FEI), mais de 100 milhões de pessoas no mundo vivem com algum tipo de condição genética, acidente, cirurgia ou marca permanente que afeta a face. Para muitas delas, o avanço da IA não trouxe inclusão, mas novas barreiras.
Esses sistemas usam medidas como a distância entre os olhos ou o formato do maxilar para identificar indivíduos. Porém, quando o rosto foge do padrão usado nos bancos de dados que treinam os algoritmos, o sistema simplesmente falha. Isso tem acontecido em situações cada vez mais comuns, como abrir uma conta bancária, solicitar documentos oficiais, desbloquear o celular ou até usar filtros de redes sociais.
–
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
–
Casos reais de exclusão digital
Uma reportagem da Wired trouxe à tona casos reais de exclusão digital que ganharam uma repercussão:
- Autumn Gardiner (Connecticut) — ao atualizar sua carteira de motorista, o sistema de reconhecimento facial do DMV recusou todas as fotos, por causa de uma condição genética que afeta os músculos do rosto.
- Crystal Hodges (Arizona) — com uma mancha de nascença, tentou diversas vezes acessar seu relatório de crédito, mas o sistema de verificação facial não a reconhecia.
- Noor Al-Khaled (Maryland) — vive com uma condição craniofacial rara e não consegue criar uma conta na Previdência Social dos EUA, que exige correspondência exata entre selfie e documento.
- Corey R. Taylor (Nova York) — ator com anomalia craniofacial, precisou se contorcer para que um aplicativo financeiro o identificasse, e ainda assim recebeu uma resposta automática de erro.
Falta de diversidade nos algoritmos
Especialistas afirmam que a raiz do problema está nos conjuntos de dados usados para treinar a IA. A maioria é composta por rostos considerados “padrão”: simétricos, sem cicatrizes ou variações estruturais. Assim, o sistema aprende a reconhecer apenas um tipo limitado de aparência.
“Se pessoas com deficiências ou diferenças faciais não forem incluídas no desenvolvimento dessas tecnologias, ninguém vai pensar nesses problemas”, alerta Kathleen Bogart, pesquisadora da Universidade Estadual do Oregon.
A FEI e outras entidades pedem medidas urgentes, como oferecer métodos alternativos de verificação e treinar funcionários humanos para intervir quando o algoritmo falha. Afinal, à medida que a IA se torna o novo “porteiro digital” da sociedade, é preciso garantir que ela reconheça todos os rostos.
Leia também:
- Implante ocular e óculos inteligente restauram parte da visão de pacientes cegos
- IA treinada com medicina chinesa usa a cor da língua para identificar doenças
VÍDEO | NÃO USE O DESBLOQUEIO FACIAL DO CELULAR
Leia a matéria no Canaltech.
