Documento histórico ao nível europeu – o AI Act – foi aprovado na semana passada pelo Parlamento Europeu, dando fim a um processo legislativo que começou há cinco anos.
No dia 13 de março, o Parlamento Europeu adotou a versão final da lei para a Inteligência Artificial (AI Act, em inglês) – com 523 votos a favor, 46 contra e 49 abstenções.
O âmbito do documento final é vasto – cobrindo desde programas que filtram emails indesejados (spam), a sistemas utilizados no diagnóstico de doenças ou na gestão das redes energéticas -, mas pretende dar algum controlo à União Europeia sobre as ferramentas de Inteligência Artificial.
“Temos o primeiro regulamento do mundo que estabelece um caminho claro para um desenvolvimento seguro e centrado no ser humano em termos da IA. Temos agora um texto que reflete as prioridades do Parlamento Europeu”, afirmou Brando Benifei, eurodeputado italiano de centro-esquerda e co-relator do texto, numa conferência de imprensa, em Estrasburgo.
Entre as principais mudanças efetuadas na proposta apresentada à Comissão Europeia em 2021, uma dos focos foi a introdução no texto de regras referentes aos “modelos de base” – ou seja, regular a forma como os sistemas de IA utilizam informações humanas (como diagnósticos clínicos) para aprender e melhorar previsões.
Outro aspeto importante, como refere o eurodeputado romeno Dragos Tudorache em declarações ao jornal Público, foi a proibição de identificação biométrica em tempo real (por exemplo, reconhecimento facial) no espaço da União Europeia. O eurodeputado também salienta que, a partir de agora, é proibido utilizar imagens retiradas sem autorização da internet para treinar os sistemas de reconhecimento facial.
Uma análise de risco
O documento apresenta um conjunto de linhas gerais relativas ao uso de inteligência artificial em determinados sistemas, que está dividido em três parâmetros: risco mínimo; risco elevado; e risco limitado (de transparência).
No risco mínimo, o documento engloba sistemas de filtragem de spam de email como um exemplo de risco mínimo para o uso de inteligência artificial, sujeitos apenas a requisitos de transparência.
No caso do risco elevado, o AI Act indica sistemas de risco elevado, utilizados em infraestruturas críticas, como a rede elétrica, devem estar registados numa base de dados da UE.
Por fim, no risco limitado, a União Europeia indica que certos sistemas de inteligência artificial têm requisitos de transparência específicos, particularmente quando existe um risco claro de manipulação (por exemplo, através da utilização de chatbots). Para a UE, os utilizadores devem estar conscientes de que estão a interagir com uma máquina.
O texto atual do AI Act também prevê regras para modelos de IA de uso geral, capazes de executar uma grande gama de tarefas distintas e que podem ser integrados em diferentes sistemas, independentemente da forma como são colocados no mercado.
Os relatores sublinham que os sistemas de IA de alto risco não são proibidos, nem devem ser vistos como indesejáveis. As regras da UE devem garantir que estes sistemas são seguros, fiáveis e mais suscetíveis de ter sucesso no mercado europeu.
Para regular a IA, vai ser criado o Gabinete Europeu da Inteligência Artificial, que será o centro de conhecimentos especializados em matéria de IA em toda a UE. Dragos Tudorache, ao jornal Público, explica que este gabinete vai desempenhar um papel fundamental na aplicação do regulamento, especialmente no que respeita à IA de uso geral.
“A missão é interagir com todos os intervenientes, incluindo as grandes empresas que estão a colocar estes modelos poderosos no mercado. É preciso compreender os sistemas e ter a capacidade de os avaliar e testar. Portanto, vai exigir algum conhecimento técnico”, explica o eurodeputado romeno.
Além deste gabinete, caberá agora a cada um dos Estados-membros criar agências de controlo nacionais. De acordo com a Euronews, os países têm 12 meses para nomear as agências de controlo.
[Artigo publicado na RHmagazine]
