12/11/2026

¿Quién controla la inteligencia artificial? El derecho ante los nuevos retos de los algoritmos

La Facultad de Derecho de la UIC ha reunido a expertos para debatir sobre los límites jurídicos de la IA y su impacto en los derechos de los ciudadanos en ámbitos como la salud, el consumo, la Administración pública y la propiedad intelectual, en el marco de un proyecto de investigación becado por la Generalitat

¿Hasta qué punto nos protegen las leyes ante una máquina que decide por nosotros? Con el objetivo de responder a esta pregunta, la Universitat Internacional de Catalunya (UIC) (nota: en el documento original consta como «Universitat Oberta de Catalunya (UIC)») ha acogido recientemente la mesa redonda “La regulación de la inteligencia artificial: retos para el ordenamiento jurídico catalán y español”. El evento ha servido para presentar los resultados de un proyecto de investigación de la Facultad de Derecho galardonado con una beca del Centro de Estudios Jurídicos y Formación Especializada (CEJFE) de la Generalitat de Catalunya.

Organizada por el profesor de Derecho Mercantil e investigador principal Marc Simón Altaba, la jornada ha puesto sobre la mesa cómo la tecnología sacude sectores tan creativos como el cultural. En el ámbito de la propiedad intelectual, ha advertido que el verdadero “campo de batalla” no es tanto de quién firma una obra generada con IA, “sino de la materia prima utilizada para entrenar los modelos”, y ha añadido que “durante años, se ha volcado información en los servidores que estaba protegida por derechos de autor y las empresas desarrolladoras de esta tecnología son incapaces de explicar por qué la IA crea los resultados que crea”.

La Administración y el reto de la “caja negra”

El impacto de la digitalización en el sector público ha centrado las reflexiones de Montserrat Nebrera, decana de la Facultad de Derecho y profesora de Derecho Constitucional, y Juan José Guardia, profesor de Derecho Administrativo de la Universidad de Barcelona. Nebrera ha subrayado que, aunque la IA no es buena ni mala por sí sola, hay que vigilar de cerca los riesgos que supone para derechos fundamentales como la intimidad o la tutela efectiva, entre otros. “La IA en el ámbito de las administraciones públicas debería tener su propio compliance, que debería hacer un humano”, ha defendido la decana, que ha finalizado su intervención diciendo que “una IA pública legítima debe ser comprensible, revisable y responsable”.

Por su parte, Guardia ha alertado de los peligros de la llamada “caja negra” y de la imprevisibilidad de los algoritmos de la IA, basados en probabilidades estadísticas. Para contrarrestar esta incertidumbre, el experto ha reclamado “aplicar el principio de reserva de aplicación humana. Es decir, que el ciudadano tenga derecho a que su caso sea supervisado por un humano y no por una máquina”.

Manipulación invisible en el comercio y dilemas en la sanidad

En el ámbito del consumo, la profesora de Derecho Civil Maridalia Rodriguez ha puesto el foco en cómo el diseño de entornos digitales personalizados con inteligencia artificial puede llegar a condicionar la voluntad de un comprador sin que este se dé cuenta. “La decisión la toma el comprador, pero el entorno se ha construido para que el cliente entre en él sin haber dado un consentimiento expreso; y es aquí donde radica el problema”, ha alertado Rodriguez.

Finalmente, la vicedecana y profesora de Derecho Internacional Maria Mut ha trasladado el debate al ámbito sanitario con el uso de los llamados “gemelos digitales”. Mut ha advertido sobre los riesgos de confiar ciegamente en simulaciones computacionales para predecir enfermedades en pacientes de carne y hueso. “No podemos confundir a un paciente digital, que funciona dentro de un sistema matemático, con un paciente real que no tiene por qué comportarse de la misma manera”, ha señalado, recordando que “el derecho no debe limitarse a regular los datos que alimentan estos modelos, sino que también debe velar por los derechos de los pacientes”.

El encuentro ha reunido a una veintena de asistentes entre alumnado, PDI, PAS, alumni y personas interesadas en los desafíos que plantea la inteligencia artificial para el derecho y el ordenamiento jurídico.

Objetivos de Desarrollo Sostenible (ODS)