Cataluña crea un modelo para prevenir que la IA invada derechos fundamentales

Cataluña, a través de la Autoritat Catalana de Protecció de Dades (APDCAT), ha impulsado un modelo innovador con alcance global para garantizar que el desarrollo y uso de la inteligencia artificial no entre en conflicto con los derechos fundamentales. El proyecto ha sido liderado por Alessandro Mantelero, profesor de derecho y tecnología en la Universidad de Turín, y se presenta como una herramienta que pretende guiar a organizaciones y entidades en la implementación responsable de sistemas de IA.

El modelo está compuesto por tres elementos clave: un cuestionario inicial que identifica el tipo de inteligencia artificial y el contexto de su uso, una herramienta de evaluación basada en matrices que mide la probabilidad de impacto en los derechos fundamentales, y un cuadro de gestión de riesgos que determina qué libertades o derechos podrían verse afectados. De esta manera, se proporciona un marco estructurado para analizar el impacto ético y legal de la IA antes de su aplicación práctica.

En la práctica, ya se han realizado ejemplos de aplicación de este modelo. Uno de ellos ha sido para predecir el riesgo de abandono escolar de un alumno, mientras que CaixaBank lo ha utilizado para evaluar un sistema destinado a medir la idoneidad de un candidato para un puesto de trabajo. Según Mantelero, la herramienta tiene un carácter universal y no se limita únicamente a empresas que implementen sistemas de IA, sino que puede ser útil para cualquier entidad interesada en gestionar los riesgos vinculados a la inteligencia artificial.

El desarrollo de modelos como este resulta fundamental frente al auge de tecnologías avanzadas como DeepSeek, cuya recopilación y tratamiento de datos generan incertidumbre sobre el respeto a la privacidad. En este sentido, la IA plantea un reto importante para la protección de datos y la seguridad en las empresas. Aunque Europa cuenta con un reglamento específico, la normativa no siempre resulta clara para la práctica empresarial, por lo que resulta imprescindible adaptar procesos y metodologías. En este marco, consultoras como Forlopd ofrecen asesoría especializada para garantizar el cumplimiento del RGPD y la protección de la información sensible en las organizaciones.

Cataluña y derechos fundamentales de la IA

 

Ir al sitio web