Reino Unido usa IA em crianças refugiadas
O governo do Reino Unido está seguindo adiante com o uso de uma ferramenta de inteligência artificial para verificar a idade de crianças migrantes, apesar de alertas de seus próprios consultores de que o sistema é "horrivelmente impreciso", informou o jornal The Independent.
O Ministério do Interior anunciou no mês passado que a tecnologia de estimativa facial de idade (FAE, na sigla em inglês) seria usada por oficiais de imigração a partir de 2027 para "combater falsas alegações de chegadas em pequenos barcos que se passam por crianças", mas dois relatórios identificaram problemas sérios com o sistema.
Como funciona a FAE?
Ferramentas de FAE movidas por IA já foram usadas para impedir que crianças acessem bens e serviços com restrição de idade, incluindo cigarros, álcool e conteúdo online adulto.
Agora, o "endurecimento da política em torno do asilo" abriu um novo mercado com "riscos muito maiores" – usar IA para determinar se migrantes indocumentados têm menos ou mais de 18 anos, disse o Lighthouse Reports, em colaboração com o The Independent e a Wired.
Uma fotografia é inserida em um sistema de IA e passa por várias camadas de análise, cada uma captando "padrões cada vez mais sutis", disse Oli Buckley, professor de cibersegurança da Universidade de Loughborough, no site The Conversation.
O sistema, que é "treinado com milhões de fotografias de pessoas cujas idades já são conhecidas", aprendeu a associar padrões faciais a faixas etárias prováveis. Ele estuda a textura da pele, a profundidade de linhas ao redor dos olhos, a estrutura óssea e a distribuição de tecidos moles, antes de fornecer uma "distribuição de probabilidade", que é mais próxima de "provavelmente entre 17 e 21 anos" do que "esta pessoa tem 18 anos".
Tudo isso importa porque, na fronteira do Reino Unido, decidir se alguém tem 17 ou 19 anos é um "julgamento de consequências". Se "errar de um lado", uma "criança vulnerável" perde proteções legais a que tem direito, mas "se errar no outro sentido", um adulto "entra em um sistema projetado para menores".
Quais são os problemas?
A tecnologia classificou incorretamente mais de um terço dos jovens de 16 anos como adultos e, em alguns testes, mostrou dar a avaliação errada em 70% dos casos, de acordo com uma auditoria do Lighthouse Reports.
Um relatório separado, vazado, que o Ministério do Interior tentou reter, descobriu que a tecnologia é menos precisa ao avaliar migrantes de países como Eritreia e Sudão, que têm o maior número de migrantes chegando ao Reino Unido em pequenos barcos. Isso levou a acusações de que a tecnologia tem "viés racial embutido", disse o The Independent.
O relatório também alertou que "as taxas de erro são particularmente altas para crianças migrantes do sexo feminino da África Subsaariana". As estimativas erravam por uma média de 4,6 anos – "o que significa que uma menina de 14 anos poderia ser prevista como adulta". A ferramenta de IA também pode ser menos precisa para pessoas com envelhecimento visível causado pelo "estresse da viagem".
O sistema ainda será usado?
O Ministério do Interior disse que tem "processos rigorosos para verificar a idade de um indivíduo" e que a "ferramenta auxiliar inovadora é projetada como uma fonte adicional de informação para oficiais de imigração, e não substitui ou anula o julgamento humano".
Mas Anna Bacciarelli, pesquisadora sênior em tecnologia, direitos e investigações da Human Rights Watch, disse ao Lighthouse Reports que isso oferece pouca garantia por causa do "fenômeno bem estabelecido" de viés de automação, onde as pessoas tendem a confiar mais na decisão de um computador do que no próprio julgamento.
O uso da tecnologia pelo Reino Unido estabelece um "precedente perigoso", disse ela, e "outros países em pontos de entrada por toda a Europa provavelmente seguirão o exemplo". Como resultado, "o uso dessa tecnologia imprecisa e invasiva pode se tornar generalizado".