La Inteligencia Artificial (IA), se ha convertido en una tecnología cada vez más omnipresente en nuestra sociedad, con aplicaciones que van desde la asistencia personal hasta la toma de decisiones críticas en ámbitos como la salud, la justicia y la seguridad pública. Sin embargo, el rápido desarrollo de estos sistemas plantea desafíos éticos, legales y de seguridad que deben abordarse de manera proactiva. Tras un largo periodo de debate y negociaciones, finalmente se ha publicado recientemente el Reglamento (UE) 2024/1689 sobre Inteligencia Artificial, que sienta las bases para un marco regulatorio armonizado en toda la Unión Europea.
El Reglamento de Inteligencia Artificial tiene un carácter eminentemente pionero en comparación con el resto de normativa existente en el resto del mundo. La regulación europea no solo establece mecanismos de control, sino que también promueve el desarrollo sostenible de la IA, especialmente para pequeñas y medianas empresas (pymes); sin perjuicio de lo cual, el Reglamento de Inteligencia Artificial contiene una amplia definición de IA, excluyendo de su ámbito de aplicación, los sistemas destinados a fines militares o a la investigación científica.
Así, el Reglamento de Inteligencia Artificial establece como base principal del mismo, el respeto a los siguientes principios fundamentales:
Respeto a los derechos humanos: Reglamento de Inteligencia Artificial debe respetar y proteger los derechos humanos, incluyendo la privacidad, la no discriminación, la igualdad de trato y la dignidad de las personas.
Transparencia y rendición de cuentas: Los procesos de toma de decisiones de los sistemas de IA deben ser transparentes y explicables, de manera que los usuarios y las autoridades competentes puedan comprender cómo se llegan a las decisiones.
Seguridad y fiabilidad: Los sistemas de IA deben ser seguros y fiables, con mecanismos adecuados para prevenir y mitigar riesgos de seguridad, fallos técnicos y sesgos algorítmicos.
Gobernanza y supervisión: Se establecerán organismos de gobernanza y supervisión a nivel nacional y europeo que velarán por el cumplimiento del Reglamento y tendrán la capacidad de imponer sanciones en caso de incumplimiento.
Requisitos y obligaciones
Teniendo en cuanta los anteriores principios básicos, el Reglamento de Inteligencia Artificial establece una serie de requisitos y obligaciones para las empresas y organizaciones que desarrollen y utilicen sistemas de IA:
Evaluación de riesgos: Antes de implementar un sistema de IA, las organizaciones deben realizar una evaluación exhaustiva de los posibles riesgos para los derechos fundamentales, la seguridad y el bienestar de las personas.
Transparencia y explicabilidad: Las organizaciones deben proporcionar información clara y accesible sobre el funcionamiento de sus sistemas de IA, incluyendo los datos utilizados, los algoritmos aplicados y los procesos de toma de decisiones.
Derechos de los usuarios: Los usuarios de sistemas de IA tendrán derechos específicos, como solicitar la rectificación o eliminación de datos incorrectos u obsoletos, y a recibir una explicación de las decisiones tomadas por estos sistemas.
Supervisión y cumplimiento: Se establecerán organismos de supervisión a nivel nacional y europeo que velarán por el cumplimiento del Reglamento y tendrán la capacidad de imponer sanciones administrativas y financieras en caso de incumplimiento.
Clasificación de riesgos
El Reglamento de Inteligencia Artificial clasifica los sistemas de IA en tres niveles de riesgo:
Riesgo Inadmisible: Prácticas prohibidas que vulneran derechos fundamentales.
Riesgo Alto: Sistemas que requieren evaluación de conformidad y están sujetos a regulaciones estrictas.
Riesgo Bajo: Sistemas que pueden operar con menos restricciones, aunque deben cumplir obligaciones de transparencia.
Supervisión y sanciones
Mediante el Reglamento de Inteligencia Artificial, se establecen órganos competentes en cada Estado miembro para supervisar el cumplimiento del mismo. En España, ya se ha creado la Agencia Española de Supervisión de Inteligencia Artificial (AESIA). A nivel europeo, la Oficina Europea de Inteligencia Artificial supervisará modelos de uso general y hará uso de sus conocimientos especializados para apoyar la aplicación del Reglamento, contribuyendo a la aplicación coherente del mismo en todos los Estados miembros, incluida la creación de órganos consultivos a escala de la UE.
En cuanto a las sanciones, el Reglamento establece, que las infracciones más graves pueden llegar a alcanzar hasta 35 millones de euros o el 7% del volumen de negocio anual de la empresa infractora.
En resumen, la regulación de la IA en la UE busca un equilibrio entre control y fomento del desarrollo tecnológico, con un enfoque en la protección de derechos y la seguridad.
Entrada en vigor e implementación escalonada
El Reglamento de Inteligencia Artificial prevé un calendario de aplicación de forma escalonada, incluyendo las siguientes fechas como hitos más relevantes:
2 de agosto de 2026: Esta es la fecha en la que el Reglamento de Inteligencia Artificial entrará oficialmente en vigor. A partir de este día, el Reglamento será aplicable en todos los Estados miembros de la Unión Europea, estableciendo un marco legal para la regulación de la IA.
2 de febrero de 2025: A partir de esta fecha, se implementarán prohibiciones específicas sobre ciertas prácticas de inteligencia artificial consideradas inaceptables o de alto riesgo que pueden vulnerar derechos fundamentales. Esta medida busca prevenir el uso de tecnologías que puedan causar daño a las personas o a la sociedad.
2 de agosto de 2025: En esta fecha, comenzarán a aplicarse las regulaciones relacionadas con organismos supervisores y sistemas de alto riesgo. Esto incluye la designación de entidades encargadas de supervisar el cumplimiento del reglamento y garantizar que los sistemas de IA que se consideran de alto riesgo cumplan con los estándares establecidos.
2 de agosto de 2027: Esta fecha marca el inicio de la aplicación de normativas específicas para los sistemas de IA de alto riesgo, que requieren evaluaciones de seguridad. Estos sistemas deberán someterse a procesos de evaluación y certificación para asegurar que operan de manera segura y ética, protegiendo así a los usuarios y a la sociedad en general.
Este enfoque escalonado permite a las empresas y organizaciones adaptarse gradualmente a las nuevas regulaciones, asegurando que tengan tiempo suficiente para cumplir con los requisitos establecidos.
Impacto y desafíos
La implementación del Reglamento de Inteligencia Artificial tendrá un impacto significativo en el desarrollo y uso de estos sistemas en la Unión Europea. Las empresas y organizaciones deberán adaptar sus prácticas y procesos para cumplir con los requisitos establecidos, lo que puede suponer retos técnicos, organizativos y económicos. Uno de los principales desafíos será lograr un equilibrio entre la innovación y la regulación, así como asegurar la efectiva supervisión y cumplimiento del Reglamento a lo largo de toda la cadena de valor de los sistemas de IA.
Conclusión
El Reglamento (UE) 2024/1689 sobre Inteligencia Artificial, representa un importante paso adelante en la regulación de esta tecnología emergente. Al establecer principios y requisitos claros, se busca garantizar que el desarrollo y uso de los sistemas de IA se realice de manera responsable y respetuosa con los derechos de las personas. Sin embargo, la implementación y cumplimiento efectivo de este Reglamento seguirá siendo un desafío en los próximos años, requiriendo la colaboración y el compromiso de todos los actores involucrados, desde las empresas y organizaciones hasta las autoridades públicas y la sociedad civil. Es fundamental que se aborde este reto de manera proactiva y coordinada, con el objetivo de aprovechar los beneficios de la inteligencia artificial mientras se mitigan sus riesgos.
En este contexto de cambios técnicos y normativos, el departamento de Derecho Digital de Belzuz Abogados, S.L.P., puede ofrecer asesoramiento especializado a sus clientes sobre la implementación y uso de sistemas de inteligencia artificial, en línea con los requisitos establecidos en el Reglamento (UE) 2024/1689. Nuestro equipo de expertos en derecho y tecnología está preparado para guiar a las empresas y organizaciones en el cumplimiento normativo, la gestión de riesgos y la adopción de mejores prácticas en el desarrollo y despliegue de soluciones de IA.
Departamento de Derecho Digital (TIC)
Belzuz Abogados SLP
La presente publicación contiene información de carácter general sin que constituya opinión profesional ni asesoría jurídica. © Belzuz Abogados, S.L.P., quedan reservados todos los derechos. Se prohíbe la explotación, reproducción, distribución, comunicación pública y transformación total o parcial, de esta obra, sin autorización escrita de Belzuz Abogados, S.L.P.