A Inteligência Artificial (IA) tornou-se uma tecnologia cada vez mais omnipresente na nossa sociedade com as mais diversas utilizações, que vão desde a assistência pessoal até a tomada de decisões em diferentes domínios como a saúde, a justiça e a segurança pública. No entanto, o rápido desenvolvimento destes sistemas levanta vários desafios éticos, jurídicos e de segurança que têm de ser abordados de forma proactiva. Após um longo período de debate e negociações, o Regulamento (UE) 2024/1689 relativo à Inteligência Artificial foi finalmente publicado recentemente lançando as bases para um quadro regulamentar harmonizado em toda a União Europeia.
O Regulamento sobre Inteligência Artificial tem um carácter altamente pioneiro em comparação com outros regulamentos existentes no resto do mundo. O regulamento europeu não só estabelece mecanismos de controlo, como também promove o desenvolvimento sustentável da IA, especialmente para as pequenas e médias empresas (PME).
Este Regulamento contém uma definição ampla de IA, excluindo do seu âmbito de aplicação os sistemas destinados a fins militares ou à investigação científica e estabelece como base principal o respeito pelos seguintes princípios fundamentais:
Respeito pelos direitos humanos: deve respeitar e proteger os direitos humanos, incluindo a privacidade, a não discriminação, a igualdade de tratamento e a dignidade das pessoas entre outros.
Transparência e responsabilização: Os processos de tomada de decisão dos sistemas de IA devem ser transparentes e explicáveis, para que os utilizadores e as autoridades competentes possam compreender a forma como as decisões são tomadas.
Segurança e fiabilidade: Os sistemas de IA devem ser seguros e fiáveis, com mecanismos adequados para prevenir e atenuar os riscos de segurança, as falhas técnicas e os enviesamentos algorítmicos.
Governação e supervisão: Serão criados organismos de governação e supervisão a nível nacional e europeu para garantir o cumprimento do regulamento que terão poderes para impor sanções em caso de incumprimento.
Requisitos e obrigações
Tendo em conta os princípios básicos acima referidos, o Regulamento IA estabelece uma série de requisitos e obrigações para as empresas e organizações que desenvolvem e utilizam sistemas de IA:
Avaliação dos riscos: Antes de implementar um sistema de IA, as organizações devem efetuar uma avaliação exaustiva dos riscos potenciais para os direitos fundamentais, a segurança e o bem-estar das pessoas.
Transparência e explicabilidade: As organizações devem fornecer informações claras e acessíveis sobre o funcionamento dos seus sistemas de IA, incluindo os dados utilizados, os algoritmos aplicados e os processos de tomada de decisão.
Direitos dos utilizadores: Os utilizadores dos sistemas de IA terão direitos específicos, como o de solicitar a retificação ou a eliminação de dados incorrectos ou desactualizados e o de receber uma explicação das decisões tomadas por esses sistemas.
Controlo e aplicação: Serão criados organismos de controlo a nível nacional e europeu para garantir o cumprimento do regulamento e terão poderes para impor sanções administrativas e financeiras em caso de incumprimento.
Classificação dos riscos
O Regulamento IA classifica os sistemas de IA em três níveis de risco:
Risco inadmissível: práticas proibidas que violam os direitos fundamentais.
Risco elevado: Sistemas que exigem uma avaliação de conformidade e estão sujeitos a uma regulamentação rigorosa.
Risco baixo: Sistemas que podem funcionar com menos restrições, embora tenham de cumprir obrigações de transparência.
Controlo e sanções
O Regulamento sobre Inteligência Artificial estabelece organismos competentes em cada Estado-Membro para supervisionar o cumprimento do regulamento. Em Espanha, já foi criada a Agência Espanhola de Supervisão da Inteligência Artificial (AESIA). A nível europeu, o Gabinete Europeu de Inteligência Artificial monitorizará os modelos de uso geral e utilizará os seus conhecimentos especializados para apoiar a aplicação do regulamento, contribuindo para uma aplicação coerente do regulamento em todos os Estados-Membros, incluindo a criação de órgãos consultivos a nível da UE.
Em termos de sanções, o regulamento prevê que as infracções mais graves podem atingir 35 milhões de euros ou 7% do volume de negócios anual da empresa infratora.
Em suma, o regulamento da UE relativo à IA procura estabelecer um equilíbrio entre o controlo e a promoção do desenvolvimento tecnológico, com ênfase na proteção dos direitos e da segurança.
Entrada em vigor e aplicação faseada
O Regulamento relativo à Inteligência Artificial prevê um calendário de aplicação escalonado, incluindo as seguintes datas como os marcos mais relevantes:
2 de fevereiro de 2025: A partir desta data, serão aplicadas proibições específicas a determinadas práticas de inteligência artificial consideradas inaceitáveis ou de alto risco, susceptíveis de violar os direitos fundamentais. Esta medida tem como objetivo evitar a utilização de tecnologias que possam causar danos aos indivíduos ou à sociedade.
2 de agosto de 2025: Nesta data, começam a ser aplicados os regulamentos relacionados com os organismos de supervisão e os sistemas de alto risco. Isto inclui a designação de entidades responsáveis por supervisionar o cumprimento do regulamento e garantir que os sistemas de IA considerados de alto risco cumprem as normas estabelecidas.
2 de agosto de 2026: Esta é a data em que o Regulamento relativo à Inteligência Artificial entrará oficialmente em vigor. A partir dessa data, o regulamento será aplicável em todos os Estados-Membros da UE, estabelecendo um quadro jurídico para a regulamentação da IA.
2 de agosto de 2027: Esta data marca o início da aplicação de regulamentos específicos para sistemas de IA de alto risco, que exigem avaliações de segurança. Estes sistemas terão de ser submetidos a processos de avaliação e certificação para garantir que funcionam de forma segura e ética, protegendo assim os utilizadores e a sociedade em geral.
Esta abordagem faseada permite que as empresas e organizações se adaptem gradualmente à nova regulamentação, garantindo que dispõem de tempo suficiente para cumprir os requisitos estabelecidos.
Impacto e desafios
A aplicação do Regulamento relativo à Inteligência Artificial terá um impacto significativo no desenvolvimento e na utilização destes sistemas na UE. As empresas e organizações terão de adaptar as suas práticas e processos para cumprir os requisitos, o que pode colocar desafios técnicos, organizacionais e económicos. Um dos principais desafios será encontrar um equilíbrio entre inovação e regulamentação, bem como assegurar uma supervisão e aplicação eficazes do regulamento ao longo de toda a cadeia de valor dos sistemas de IA.
Conclusões
O Regulamento (UE) 2024/1689 relativo à Inteligência Artificial representa um importante passo em frente na regulamentação desta tecnologia emergente. Ao estabelecer princípios e requisitos claros, procura garantir que o desenvolvimento e a utilização de sistemas de IA sejam efectuados de forma responsável e respeitadora dos direitos dos indivíduos. No entanto, a aplicação e o cumprimento efectivos do presente regulamento continuarão a ser um desafio nos próximos anos, exigindo a colaboração e o empenho de todos os intervenientes, desde as empresas e organizações às autoridades públicas e à sociedade civil. É essencial que este desafio seja enfrentado de forma proactiva e coordenada, com o objetivo de aproveitar os benefícios da inteligência artificial e, ao mesmo tempo, mitigar os seus riscos.
Neste contexto de mudanças técnicas e regulamentares, o da , pode oferecer aconselhamento especializado aos seus clientes sobre a implementação e utilização de sistemas de inteligência artificial, em conformidade com os requisitos estabelecidos no Regulamento (UE) 2024/1689. A nossa equipa de especialistas em direito e tecnologia está preparada para orientar as empresas e organizações no cumprimento da regulamentação, na gestão de riscos e na adoção das melhores práticas no desenvolvimento e implementação de soluções de IA.