En primer lugar, es importante reconocer que los modelos clásicos de responsabilidad civil, tal y como se recogen en el Código Civil portugués, se basan en un enfoque antropocéntrico: presuponen la existencia de una conducta humana, imputable a un agente, que actúa con dolo o negligencia. La IA viene a alterar este paradigma, en la medida en que permite la toma de decisiones automatizadas, basadas en procesos de aprendizaje automático (machine learning), cuya lógica interna no siempre es comprensible —el denominado problema de la «caja negra».
En este contexto, una primera cuestión fundamental es la de la atribución de la responsabilidad. ¿Quién responde por los daños causados por los sistemas de IA? ¿El programador? ¿El fabricante? ¿El usuario profesional? ¿O, en determinadas circunstancias, el propio destinatario de la decisión automatizada? La respuesta no es sencilla y tiende a depender de la cadena de valor concreta del sistema de IA y del grado de control ejercido por cada parte implicada.
En el ámbito de la responsabilidad civil subjetiva, la prueba de la culpa se vuelve particularmente compleja. En efecto, las decisiones deben poder explicarse y comprenderse adecuadamente, teniendo en cuenta el caso concreto y no basándose en la predicción del algoritmo (caja negra), lo que puede suscitar cuestiones relacionadas con los daños resultantes de las decisiones basadas en la IA, como la prueba de la culpa y el nexo de causalidad. Esta dificultad probatoria puede, en la práctica, debilitar la posición del perjudicado.
Por este motivo, cada vez es más importante recurrir a mecanismos de responsabilidad objetiva o presunta. A nivel europeo, las iniciativas legislativas más recientes apuntan a facilitar la prueba por parte del perjudicado y a la posible previsión de presunciones de nexo causal en determinadas circunstancias (por ejemplo, cuando exista un incumplimiento de los deberes de transparencia o de seguridad), siendo de esperar que dichas orientaciones se incorporen también al ordenamiento jurídico portugués.
Otro aspecto crítico se refiere al nexo de causalidad. En los sistemas de IA, el daño puede ser consecuencia de una multiplicidad de factores: datos de entrenamiento sesgados, errores de programación, decisiones emergentes del propio sistema o incluso interacciones con otros sistemas. La identificación del factor causal relevante puede resultar extremadamente difícil, sobre todo cuando la IA actúa de forma dinámica y adaptativa. Esta realidad pone en tela de juicio los criterios tradicionales de la teoría de la causalidad adecuada, lo que podría justificar soluciones más flexibles o incluso la inversión de la carga de la prueba en determinados contextos.
En el sector asegurador, estos retos revisten especial importancia. Por un lado, la IA se utiliza para la suscripción de riesgos, la gestión de siniestros y la prevención del fraude; por otro lado, también es fuente de nuevos riesgos, que pueden dar lugar a responsabilidad civil. Por ejemplo, un sistema de IA que rechace indebidamente una reclamación basándose en criterios discriminatorios o erróneos puede generar responsabilidad por parte de la aseguradora, tanto en el ámbito contractual como extracontractual.
Además, se plantea la cuestión de la adecuación de los productos de seguro existentes para cubrir los riesgos asociados a la IA. Los seguros de responsabilidad civil profesional o de producto podrían no ser suficientes para cubrir la totalidad de estos riesgos, sobre todo cuando se trata de daños inmateriales, como la discriminación algorítmica o la violación de derechos fundamentales. Por ello, es previsible el desarrollo de productos de seguro específicos para los riesgos de la IA, así como la adaptación de las cláusulas existentes.
Al mismo tiempo, la regulación de la IA hace hincapié en la importancia de la explicabilidad y la supervisión humana («human in the loop»). Estos requisitos, además de tener como objetivo la protección de los derechos de los usuarios, también tienen implicaciones directas en la responsabilidad civil: la existencia de mecanismos de control humano puede facilitar la imputación de la responsabilidad y la demostración de la culpa, mientras que su ausencia puede reforzar la necesidad de regímenes de responsabilidad objetiva.
En conclusión, la inteligencia artificial plantea retos estructurales al régimen tradicional de responsabilidad civil, exigiendo una adaptación de sus supuestos e instrumentos. La tendencia apunta hacia una mayor objetivación de la responsabilidad, hacia la facilitación de la prueba por parte del perjudicado y hacia el desarrollo de soluciones específicas en el ámbito regulatorio y de los seguros. Para los operadores jurídicos y para el sector asegurador, el seguimiento de estas evoluciones será determinante, no solo para la gestión del riesgo, sino también para la construcción de un entorno de confianza en el uso de la IA.
Belzuz Abogados, S.L.P. – Sucursal en Portugal cuenta con un equipo multidisciplinar con una amplia experiencia en el asesoramiento a compañías de seguros y mediadores de seguros, tanto nacionales como extranjeros, y puede constituir una ayuda importante para el seguimiento y la aplicación de las nuevas novedades legislativas, en particular las relacionadas con la IA.