Teme que as mulheres Māori sejam alvos no teste de reconhecimento facial da Foodstuffs na Ilha do Norte

Originalmente publicado pela Māori Television

Mulheres Māori e mulheres negras serão alvos prováveis ​​no teste de reconhecimento facial da Foodstuffs.

Essa é a preocupação da Dra. Karaitiana Taiuru, especialista em IA Māori e especialista em ética tecnológica, que disse que o lançamento na quinta-feira do teste de tecnologia de reconhecimento facial (FRT) da Foodstuffs North Island é “100 por cento uma invasão corporativa de nossas vidas pessoais”.

“As mulheres Māori serão mais visadas tanto nos riscos de preconceito como no risco de identificação incorreta e também nos seus dados pessoais”, disse Taiuru.

Primordialmente, o maior dano será para quaisquer povos indígenas e pessoas de cor, simplesmente porque o sistema não foi projetado ou treinado em seus rostos.

É provável que interprete mal ou identifique erroneamente um indivíduo. Isso, por sua vez, fará com que pessoas inocentes sejam acusadas de serem ladrões de lojas ou de serem outra pessoa.

O Comissário de Privacidade, Michael Webster, monitorará o julgamento do Foodstuffs, que está previsto para durar no máximo seis meses.

“Os neozelandeses merecem comprar leite e pão sem ter os seus rostos escaneados, a menos que seja realmente justificado”, disse Webster.

Não aceitaríamos receber impressões digitais e ser verificados na porta antes de fazer compras – isso parece ridículo – mas o FRT é um processo biométrico semelhante que é mais rápido, executado por máquina, acontece em um nanossegundo e cria um modelo para comparar seu rosto com , agora e no futuro.

Queremos que as pessoas estejam seguras enquanto fazem compras e trabalham. Mas tenho dúvidas reais sobre se a tecnologia será eficaz para impedir comportamentos violentos ou prevenir danos.

A Foodstuffs North Island decidirá se o FRT será adotado de forma mais ampla pela cooperativa com a ajuda deste teste, que agora está sendo conduzido em até 25 lojas. O objetivo atual do teste é eliminar o comportamento prejudicial na loja, melhorando a identificação de infratores reincidentes.

O presidente-executivo da Foodstuffs North Island, Chris Quin, disse que todos têm direito a um ambiente de trabalho seguro e a um local seguro para comprar seus mantimentos.

Este teste de FR em nossas lojas faz parte do nosso compromisso de manter nossas equipes e clientes seguros.

Nossas lojas da Ilha Norte registraram 4.719 incidentes somente no trimestre de outubro a dezembro de 2023. Isso é 34 por cento a mais do que os 3.510 registrados no trimestre anterior”, disse ele.

Surpreendentemente, um membro da nossa equipe de segurança foi esfaqueado recentemente e nosso pessoal está sendo socado, chutado, mordido e cuspido. Estamos vendo mais de 14 incidentes graves por semana, incluindo uma média de duas agressões.

Muitas vezes são as mesmas pessoas que voltam às nossas lojas apesar de já terem sido invadidas, cometendo mais crimes e muitas vezes colocando os membros da nossa equipa e clientes em risco de abuso e violência.