Depois de várias recomendações adotadas nos últimos três anos para a área da inteligência artificial (IA) e de uma consulta ao mercado, o executivo comunitário propôs hoje “novas regras e ações destinadas a transformar a Europa no centro mundial de confiança”, através da combinação do “primeiro quadro jurídico de sempre” e de um novo plano para coordenação entre os Estados-membros.

O objetivo é “garantir a segurança e os direitos fundamentais das pessoas e das empresas, reforçando ao mesmo tempo a adoção, o investimento e a inovação da IA em toda a UE”, explica Bruxelas em comunicado.

Seguindo uma “abordagem baseada no risco”, a Comissão Europeia propõe que sejam proibidas na UE as aplicações de IA que definiu como de “risco inaceitável”, ameaçadoras para a segurança e direitos das pessoas, estando em causa sistemas que manipulam o comportamento humano (como brinquedos que utilizam assistência vocal encorajando comportamentos perigosos de menores) ou de utilização abusiva pelos governos.

Seguem-se os sistemas de “alto risco”, aos quais serão impostas “obrigações rigorosas antes de poderem ser colocados no mercado” de supervisão humana e de disponibilização de informação clara, abrangendo nomeadamente as aplicações de identificação biométrica à distância, isto é, de reconhecimento facial ou pela voz ou de impressão digital.

Relativamente aos sistemas de identificação biométrica à distância haverá, ainda assim, exceções para situações “definidas e regulamentadas”, como na procura de crianças desaparecidas, na emissão de alertas sobre ameaça terrorista ou ainda para deteção de criminosos, devendo existir “autorização de um órgão judicial ou outro órgão independente e limites adequados de tempo, alcance geográfico e das bases de dados pesquisadas”.

Ainda da lista de sistemas de alto risco fazem parte infraestruturas críticas como transportes, aplicações de formação educacional ou profissional, componentes de segurança dos produtos, serviços privados e públicos essenciais, sistemas de justiça e ainda procedimentos para gestão das migrações e das fronteiras.

Bruxelas definiu ainda sistemas de “risco limitado” que terão obrigações específicas de transparência, como os 'chatbots' (formas de conversação com robôs), e ainda de “risco mínimo”, para os quais não está prevista intervenção, como jogos de vídeo ativados por IA ou filtros de 'spam'.

A Comissão Europeia propõe que as autoridades nacionais supervisionem as novas regras, sendo ainda criado um Conselho Europeu de Inteligência Artificial para facilitar a sua implementação.

Neste que é um dossiê assumido como prioritário pela presidência portuguesa da UE, Bruxelas cria então a primeira legislação direcionada para a IA, apesar de os responsáveis por esta tecnologia estarem já sujeitos à legislação europeia em matéria de direitos fundamentais, por exemplo, proteção de dados, privacidade e não discriminação.

A IA tem vindo a ser cada vez mais usada em áreas como o entretenimento (personalização dos conteúdos), o comércio ‘online’ (previsão dos gostos dos consumidores), os eletrodomésticos (programação inteligente) e os equipamentos eletrónicos (recurso aos assistentes virtuais como a Siri ou a Alexa, entre outros).

É também usada para o reconhecimento facial, técnica que tem por base a recolha de dados característicos de imagem de uma pessoa e pode ser aplicada tanto ao desbloqueio de telemóveis como para autenticar a identidade em locais públicos como aeroportos.