Depois de várias recomendações adotadas nos últimos três anos para a área da inteligência artificial (IA) e de uma consulta ao mercado, o executivo comunitário apresentou hoje uma proposta de regulamentação para salvaguardar os valores e direitos fundamentais da UE e a segurança dos utilizadores, visando obrigar os sistemas considerados como de alto risco a cumprir requisitos obrigatórios relacionados com a sua fiabilidade.

“O não cumprimento por parte de um fornecedor de IA […] pode implicar uma multa de até 6% do seu volume de negócios anual global”, explicou hoje em conferência de imprensa, em Bruxelas, a vice-presidente executiva da Comissão Europeia com a pasta de “uma Europa apta para a Era Digital”, Margrethe Vestager.

Através de uma abordagem baseada no risco, o executivo comunitário propôs que nesta primeira legislação da UE para a IA sejam impostos controlos apertados aos sistemas considerados de “alto risco” e que sejam proibidos os de “risco inaceitável”.

Porém, apesar de os sistemas de identificação biométrica à distância serem mencionados na nova legislação como de “alto risco”, Margrethe Vestager clarificou à imprensa que há aplicações que “não são problemáticas”, como o reconhecimento facial ou as impressões digitais, desde que para uso pessoal.

“Uma utilização específica de IA que se enquadra tanto nas categorias de alto risco como nas categorias de proibição é a identificação biométrica por identificação remota, que pode ser utilizada para muitos fins e alguns deles não são problemáticos, como por exemplo, quando é utilizada no controlo de fronteiras um a um pelas autoridades aduaneiras ou quando nos é pedido que assinemos com as nossas impressões digitais ou por reconhecimento facial”, precisou a responsável.

Pelo contrário, “na nossa proposta, concentramo-nos na identificação biométrica remota, através da qual muitas pessoas são rastreadas em simultâneo”, apontou Margrethe Vestager, argumentando que “qualquer utilização como esta é altamente arriscada, de um ponto de vista de direitos fundamentais”.

“E é por isso que sujeitamos a identificação biométrica remota a regras ainda mais rigorosas do que outros casos de utilização de alto risco”, justificou a responsável.

Ainda assim, admitiu que “há situações em que [as regras para os sistemas de alto risco] podem não ser suficientes e isso é quando a identificação biométrica à distância é utilizada em tempo real pelas autoridades de aplicação da lei em locais públicos”, pelo que o seu uso passa a ser proibido na UE, dado “não haver espaço para a vigilância em massa na sociedade” europeia.

A nova lei prevê que todos os sistemas de reconhecimento de emoções e categorização biométrica sejam sujeitos a requisitos específicos de transparência, devendo também ser considerados de alto risco nos casos de utilização por exemplo nas áreas do emprego, educação, aplicação da lei, migração e controlo de fronteiras.

Ainda de acordo com Margrethe Vestager, “caberá aos Estados-membros identificar qual a autoridade nacional que será a melhor” para supervisionar as novas regras, se por exemplo as de proteção de dados ou de vigilância do mercado.

Neste que é um dossiê assumido como prioritário pela presidência portuguesa da UE, Bruxelas cria então a primeira legislação direcionada para a IA, apesar de os responsáveis por esta tecnologia estarem já sujeitos à legislação europeia em matéria de direitos fundamentais, por exemplo, proteção de dados, privacidade e não discriminação.