Ética y Protección de Datos
La Inteligencia Artificial (IA) tiene el potencial de revolucionar el asesoramiento laboral, ofreciendo perspectivas personalizadas, una eficiente adecuación de los puestos de trabajo y oportunidades de aprendizaje innovadoras. Sin embargo, su integración en este campo también plantea algunos riesgos y retos, sobre todo porque el asesoramiento laboral suele recopilar, procesar y almacenar muchos datos personales y sensibles de los beneficiarios. Esta sección aborda específicamente el principal riesgo derivado del uso de la IA en el asesoramiento laboral, relacionado con la privacidad de los datos.
¿Qué son los datos personales?
Los datos personales, según el Reglamento General de Protección de Datos (RGPD) de la UE, son cualquier información que identifique o pueda identificar a una persona. Incluso si están desidentificados, encriptados o seudonimizados, siguen considerándose datos personales, salvo que se anonimicen de forma irreversible.
Algunos de datos personales que se suelen manejar en los servicios de Empleo son:
-
Nombre y apellidos
-
Fecha de nacimiento
-
Dirección
-
El email cuando contiene un nombre identificable
-
CV
-
Vida laboral
-
Expediente académico
-
Evaluación de la personalidad
-
Resultado de la prueba de aptitudes
-
Dirección del Protocolo de Internet (IP)
-
Intercambio de mensajes y correos electrónicos durante el acompañamiento a la búsqueda de empleo
Además, hay algunos datos que no está permitido procesar, entre ellos los de una persona:
-
Origen racial o étnico
-
Orientación sexual
-
Opiniones políticas
-
Creencias religiosas o filosóficas
-
Afiliación sindical
-
Datos genéticos, biométricos o de salud, excepto en casos específicos (por ejemplo, cuando se le ha dado el consentimiento explícito o cuando el tratamiento es necesario por razones de interés público sustancial, sobre la base de la UE o la legislación nacional)
-
Datos personales relacionados con condenas e infracciones penales, salvo que lo autorice la legislación nacional o de la UE.
Principales preocupaciones en relación con el tratamiento de datos personales mediante un sistema de IA en la orientación laboral
El tratamiento de datos se refiere a cualquier acción realizada sobre datos personales. Incluye la recogida, el registro, la organización, la estructuración, el almacenamiento, la modificación, la recuperación, la consulta, el uso, la transmisión, la difusión, la alineación, la combinación, la restricción, el borrado o la destrucción de datos personales. El tratamiento de datos puede hacerse manual o digitalmente.
El tratamiento de datos personales mediante IA en el contexto de los servicios de empleo suscita varias preocupaciones:
1. Transparencia
El uso de herramientas digitales puede reducir la transparencia en el procesamiento de datos personales, ya que los beneficiarios pueden desconocer qué datos se recogen y por qué. Además, el funcionamiento interno de la IA no siempre es evidente, incluso para la organización que la usa.
2. Sesgo (algorítmico) y riesgo de discriminación
El sesgo algorítmico ocurre cuando los algoritmos de IA generan resultados injustos o discriminatorios debido a errores humanos o datos defectuosos. Puede surgir si los datos utilizados para entrenar el modelo no son representativos. Cuando estos sistemas influyen en decisiones importantes, pueden generar discriminación.
3. Seguridad y confidencialidad
Las herramientas digitales pueden ser pirateadas, lo que pone en riesgo la seguridad y confidencialidad de los datos personales. También existe el peligro de acceso no autorizado o uso indebido dentro de la organización, comprometiendo a los beneficiarios.
Mitigar el riesgo relativo a los datos personales
Las entidades del Tercer Sector que empleen herramientas de IA pueden mitigar el riesgo relativo al tratamiento de datos personales siguiendo algunas acciones éticas a la hora de tratar los datos personales de los beneficiarios.
Los servicios de Empleo deben informar a los beneficiarios sobre la recogida y uso de sus datos personales, incluyendo quién los procesa y por cuánto tiempo. También deben explicar el uso de herramientas de IA en el tratamiento de datos.
Para reducir el sesgo algorítmico, se deben elegir herramientas de IA seguras y éticas, asegurando que los datos recopilados sean adecuados y actualizados. Es clave implementar medidas de seguridad para proteger los datos personales (cifrado, controles de acceso, almacenamiento seguro) y tener un plan de respuesta ante violaciones de datos, notificando a las autoridades y a los afectados cuando sea necesario.
Derechos de privacidad de los interesados
Además de las medidas de mitigación, las áreas de Empleo siempre deben respetar los siguientes derechos de las personas usuarias. Estos derechos están amparados por el RGPD.
-
Derecho a ser informado: conocer cómo se tratan sus datos personales.
-
Derecho de acceso: consultar qué datos personales se poseen.
-
Derecho de rectificación: corregir datos incorrectos o incompletos.
-
Derecho de supresión: solicitar la eliminación de datos cuando ya no sean necesarios o su tratamiento sea ilícito.
-
Derecho a la limitación del tratamiento: restringir el uso de datos en ciertas situaciones.
-
Derecho a la portabilidad de los datos: recibir los datos en un formato accesible y transferirlos a otro responsable.
-
Derecho de oposición: rechazar el uso de datos para marketing o por razones personales.
-
Derechos sobre decisiones automatizadas y perfiles: pedir que decisiones importantes sean revisadas por personas y no solo por algoritmos.
Seguir las medidas de mitigación y respetar los derechos de privacidad de los datos de los beneficiarios son cruciales para garantizar una aplicación ética de la IA en el asesoramiento laboral.
Referencias
Kuśmierczyk, Małgorzata, Algorithmic Bias in the Light of the GDPR and the Proposed AI Act (May 8, 2022). Maciej Olejnik, Wiktoria Morawska (ed.), "(In)equality. Faces of modern Europe", Wydawnictwo Centrum Studiów Niemieckich i Europejskich im. Willy’ego Brandta, Wrocław, 2022 (forthcoming), Available at SSRN: https://ssrn.com/abstract=4117936 or http://dx.doi.org/10.2139/ssrn.4117936
General Data Protection Regulation (GDPR): This EU law governs the processing of personal data within the EU. https://commission.europa.eu/law/law-topic/data-protection/legal-framework-eu-data-protection_en#:~:text=The%20GDPR%20has%20been%20incorporated,throughout%20the%20European%20Economic%20Area
Your Europe. 2025. Data Protection Under GDPR. https://europa.eu/youreurope/business/dealing-with-customers/data-protection/data-protection-gdpr/index_en.htm
European Commission. 2025. Data Protection Explained. https://commission.europa.eu/law/law-topic/data-protection/data-protection-explained_en
GDPR. 2025. What is GDPR, the new EU law? https://gdpr.eu/what-is-gdpr/
IBM. 2024. What is algorithmic bias? https://www.ibm.com/think/topics/algorithmic-bias