De acordo com o SAPO TEK, as regras sobre as práticas de inteligência artificial (IA) que passam a ser proibidas na UE são aplicáveis a partir de fevereiro, no âmbito do regulamento europeu AI Act. Sistemas de pontuação social pelo Estado ou por entidades privadas e identificação biométrioca remota em tempo real são algumas das proibições na UE.
O regulamento europeu, que foi publicado no Jornal Oficial da União Europeia (UE) em 12 de julho, entra em vigor 20 dias após a publicação, sendo que tem de estar implementado até agosto de 2026.
Destaca-se, em especial, "o caso das regras relativamente a práticas de inteligência artificial proibidas que serão aplicáveis no prazo de seis meses", ou seja, a partir de fevereiro, afirma a jurista Sara Rocha, associada de TMC - Tecnologia, Media e Comunicações da CMS Portugal.
Quais são as regras proibidas pelo IA Act?
Sara Rocha lista algumas das principais: "tem por base um sistema que assenta no risco, prevendo desde logo algumas utilizações de IA que são considerados inaceitáveis e, portanto, proibidos, como a manipulação comportamental subliminar, exploração de indivíduos considerados vulneráveis, pontuação social pelo governo ou privados que leva a discriminação, e identificação biométrica remota em tempo real em espaços públicos por autoridades policiais, com certas exceções".
Sobre o impacto direto na vidas pessoas, a jurista recorda que atualmente a maioria das empresas "já recorre a sistemas de IA para inferir características comportamentais dos seus clientes, sendo estes monitorizados de forma substancial pelas empresas, apesar do Regulamento Geral de Proteção de Dados Pessoais [RGPD)".
Agora, o que o regulamento de IA "vem proibir são utilizações como, por exemplo, de categorização social por características identitárias, raciais, como o social 'scoring' que é muito associado à China".
Neste sentido, com o regulamento "as pessoas passarão a ter um nível superior de proteção com a proibição concreta de algumas destas utilizações".
Além disso, mesmo nas práticas que são permitidas, "as empresas passarão a ter de garantir salvaguardas adicionais, de forma a garantir que não existe viés, que existe intervenção humana" e "que são respeitados os direitos humanos".
O diploma pretende "é que quando a IA é utilizada com impacto na vida dos cidadãos são tomadas medidas adequadas e cuidados adicionais".
E exemplifica: "Se não nos faz muita confusão que, na sequência de uma compra, um 'website' nos recomende produtos semelhantes ao adquirido com recurso à IA, já nos fará alguma confusão que a medida de uma pena seja determinada, em exclusivo com base em IA, ou que um banco nos negue um crédito com base em IA".
Neste caso, "provavelmente quereremos saber o que fundamenta essa decisão e será relevante garantir que não existiu viés e, em última análise, que existiu intervenção humana", aponta.
Em suma, o que o regulamento pretende, "em primeiro lugar, é que o algoritmo seja explicável a quem é afetado e que este cumpra com as normas aplicáveis", reforça Sara Rocha.
Das 'Big tech' às PME
Relativamente ao impacto nas empresas, este "será enorme por ser um regulamento transversal e que vai desde 'big tech' a PME e cobre vários setores de atividade e vários agentes".
Do marketing, aos recursos humanos, passando pelo setor jurídico ou financeiro, o novo regulamento terá impacto nas mais diversas áreas, mas "também será aplicável a infraestruturas críticas, como a energia, ou ao setor público, à educação, energia" e até a banca.
"O que as empresas terão de fazer é analisar a sua utilização de ferramentas de IA, mapear as utilizações existentes e definir objetivos concretos para a utilização da tecnologia, identificar lacunas e implementar as normas existentes no uso que fazem destas ferramentas, de forma a garantir o cumprimento da legislação aplicável", salienta.
Quanto às 'big tech' (grandes tecnológicas), estas vão ter de aplicar a lei.
"O risco que existe é que a tecnologia, uma vez mais, avance mais rápido do que o próprio regulamento e se encontrem formas tecnológicas de contornar estas proibições", mas o "objetivo é abranger todas as empresas e todos os sectores, desde que recorram a IA", remata.
Este diploma "tenta ser neutro na definição de IA, para que não fique ultrapassado no tempo e foca-se essencialmente na utilização que é feita da IA e não nas ferramentas em si mesmas".
"Não obstante, sendo esta uma área em constante evolução e que na maioria das vezes anda a uma velocidade bastante mais rápida que aquela que o legislador consegue alcançar, o maior desafio será que o regulamento se mantenha atual e que consiga acompanhar os desenvolvimentos tecnológicos", salienta Sara Rocha.
