O Conselho Europeu de Proteção de Dados (EDPB) e a Autoridade Europeia para a Proteção de Dados (EDPS) anunciaram em 21 de junho de 2021 que aprovaram um parecer conjunto sobre a Proposta de Um Regulamento da Comissão Europeia que estabelece regras harmonizadas sobre inteligência artificial (IA).
As entidades querem vetar o reconhecimento facial por meio do uso da IA em um espaço público. Alegam que implantar identificação biométrica remota em espaços acessíveis ao público significa o fim do anonimato nesses lugares. Aplicações como o reconhecimento facial ao vivo interferem em direitos e liberdades fundamentais a tal ponto que podem colocar em questão a essência desses direitos e liberdades.
Dessa forma, isso exigiria uma aplicação imediata da abordagem de precaução. Uma proibição geral do uso do reconhecimento facial em áreas de acesso público é o ponto de partida necessário se quisermos preservar nossas liberdades e criar um arcabouço legal centrado no ser humano para a IA. O regulamento proposto também deve proibir qualquer tipo de uso da IA para segregação social , pois é contra os valores fundamentais da UE e pode levar à discriminação.
O parecer das duas entidades defende ainda os seguintes posicionamentos:
- a proibição de sistemas de IA que utilizam biometria para categorizar indivíduos em grupos com base na etnia, gênero, orientação política ou sexual, ou outros motivos sobre os quais a discriminação é proibida;
- o uso da IA para inferir emoções de uma pessoa física é altamente indesejável e deve ser proibido, exceto para casos muito específicos, como alguns fins de saúde, onde o reconhecimento de emoções do paciente é importante; e
- o uso de IA para qualquer tipo de segregação social deve ser proibido.
O fato é que o reconhecimento facial, apesar do inegável apelo do desenvolvimento da tecnologia, tem gerado bastante controvérsia por parte de estudiosos do tema, reguladores e empresas que atuam nesse segmento.
Um dos gigantes, Google, estabelece em um documento sobre o reconhecimento facial que a tecnologia relacionada ao rosto:
- precisa ser justa e por isso não deve reforçar ou amplificar os preconceitos existentes, especialmente onde isso possa impactar grupos sub-representados;
- não deve ser usada em vigilância que viole as normas internacionalmente aceitas; e
- precisa proteger a privacidade das pessoas, fornecendo o nível certo de transparência e controle.
Por outro lado, o próprio documento do Google exemplifica os benefícios do reconhecimento facial, como permitir que apenas a pessoa certa tenha acesso a informações confidenciais destinadas a ela ou, ainda, auxiliar na luta contra o tráfico de menores.
O Google traz cinco questões que devem ser consideradas em produtos e aplicativos envolvendo reconhecimento facial:
- uso pretendido;
- notificação, consentimento e controle;
- coleta, armazenamento e compartilhamento de dados;
- desempenho e design do modelo; e
- interface do usuário.
A questão crucial de natureza técnica, no entanto, é a dificuldade de estabelecer critérios para determinar se o software ou o equipamento que executa o reconhecimento facial é preciso ou não. A despeito dos aspectos técnicos, a questão relevante que se impõe é se o Estado teria o direito de rastrear alguém em espaços públicos, podendo estabelecer itinerários e acabar exercendo um controle opressivo sobre determinado indivíduo.
Seja como for, o posicionamento das entidades europeias causa preocupação na área de segurança, especialmente em locais onde procura-se identificar violadores da lei em fuga, tais como aeroportos e rodoviárias. A proibição total certamente será um duro golpe para as forças de segurança europeias.
