Propuestas para una inteligencia artificial ética en los servicios sociales

AUTORES

1. María Yébenes Delgado. Trabajadora Social. Hospital Universitario Miguel Servet (Zaragoza). España.
2. Ana Isabel Navarro Pérez. Auxiliar Administrativa y TCAE.CME San José. (Zaragoza). España.
3. Laura Báguena Sancho. Trabajadora Social. Hospital Universitario Miguel Servet. (Zaragoza). España.
4. Sonia Pascual Martín. Trabajadora Social. Instituto Aragonés de Servicios Sociales. Aragón. España.
5. Eva Ibáñez Mily. Licenciada en Odontología. Aragón. España.
6. Natividad Aragüés Saz. Trabajadora Social y TCAE. Hospital Universitario Miguel Servet. (Zaragoza). España.

RESUMEN

La integración de la inteligencia artificial (IA) en los servicios sociales plantea importantes desafíos éticos que requieren de un análisis profundo y la formulación de propuestas que garanticen la protección de los derechos de las personas usuarias.

Este artículo ofrece una revisión de las principales consideraciones éticas en el uso de la IA en los servicios sociales, destacando aspectos como la transparencia, la equidad, la no discriminación y la privacidad.

A partir de una revisión documental de literatura científica, informes institucionales y normativas, se presentan propuestas para un marco ético que guíe el desarrollo y la implementación de estas tecnologías.

Se subraya la necesidad de establecer mecanismos de supervisión y evaluación continua, la participación activa del personal de trabajo social en los procesos de diseño y uso de la IA, y la creación de comités éticos especializados.

Estas propuestas buscan asegurar que la IA sea una herramienta de apoyo que potencie la justicia social y no un factor de exclusión o vulnerabilidad para las personas atendidas por los servicios sociales.

PALABRAS CLAVE

Inteligencia artificial, ética, servicios sociales, justicia social, trabajo social, derechos humanos.

ABSTRACT

The integration of artificial intelligence (AI) into social services poses significant ethical challenges that demand thorough analysis and the formulation of proposals to protect the rights of service users. This article provides a review of the main ethical considerations in the use of AI in social services, highlighting aspects such as transparency, fairness, non-discrimination, and privacy. Based on a documentary review of scientific literature, institutional reports, and regulations, proposals for an ethical framework guiding the development and implementation of these technologies are presented.

The need for supervisory and continuous evaluation mechanisms, active participation of social work professionals in AI design and implementation, and the creation of specialized ethics committees is emphasized. These proposals aim to ensure that AI serves as a support tool that enhances social justice rather than as a factor of exclusion or vulnerability for those assisted by social services.

KEY WORDS

Artificial intelligence, ethics, social services, social justice, social work, human rights.

INTRODUCCIÓN

La inteligencia artificial se ha convertido en un elemento transformador en múltiples ámbitos, incluyendo los servicios sociales. La IA puede mejorar la eficiencia y personalización de la atención, pero su uso plantea interrogantes éticos que deben abordarse con prioridad. En un contexto donde los servicios sociales atienden a poblaciones vulnerables, el uso ético de la tecnología es fundamental para garantizar el respeto de los derechos humanos y evitar nuevas formas de exclusión.

OBJETIVOS

1. Analizar los principales desafíos éticos que plantea la aplicación de la IA en los servicios sociales.
2. Formular propuestas que garanticen un uso ético de la IA en el ámbito de los servicios sociales.
3. Promover la reflexión crítica sobre el impacto de la IA en la justicia social y los derechos humanos.

METODOLOGÍA

Este artículo se basa en una revisión documental de fuentes académicas y profesionales. Se han consultado bases de datos como Scielo, Dialnet, Redalyc, Google Scholar, PubMed, y documentos de organismos oficiales como la Comisión Europea. Asimismo, se han revisado normativas éticas y legales relacionadas con la protección de datos y los derechos digitales.

DESARROLLO

El uso de la IA en los servicios sociales puede optimizar procesos como la gestión de recursos, la detección de necesidades o la evaluación de intervenciones. Sin embargo, estos beneficios deben sopesarse frente a diferentes riesgos asociados, como el sesgo algorítmico, la opacidad en la toma de decisiones y la posible vulneración de la privacidad de las personas usuarias entre otros.

A continuación, se presentan los aspectos esenciales y los desafíos prioritarios a los que es necesario dar respuesta.

Transparencia algorítmica:

La transparencia algorítmica es un principio ético esencial en el uso de inteligencia artificial (IA) en los servicios sociales, ya que asegura que los procesos de toma de decisiones automatizadas sean comprensibles, verificables y auditables por las personas y organismos responsables de la intervención social. La falta de transparencia en los algoritmos puede generar situaciones de indefensión para las personas usuarias, dado que dificulta la posibilidad de impugnar decisiones que les afecten directamente, como la asignación de recursos o la priorización de ayudas.

En los servicios sociales, la opacidad algorítmica puede originarse por múltiples causas: la complejidad técnica de los modelos de IA (por ejemplo, redes neuronales profundas con millones de parámetros), la existencia de derechos de propiedad intelectual sobre los algoritmos desarrollados por empresas privadas, y la ausencia de normativas específicas que obliguen a publicar el funcionamiento interno de estos sistemas. Esto es especialmente preocupante en un ámbito como el social, donde las decisiones pueden tener un impacto directo sobre los derechos fundamentales de personas en situación de vulnerabilidad¹.

Los algoritmos no solo deben ser técnicamente accesibles, sino que sus procesos de decisión deben poder explicarse en un lenguaje comprensible para los profesionales del trabajo social, las personas usuarias y los órganos de supervisión. Esto permitiría, por ejemplo, entender por qué una familia fue clasificada como de alta, media o baja prioridad en el acceso a un recurso, o por qué se le denegó un servicio. El derecho a una explicación sobre las decisiones automatizadas está recogido en el propio Reglamento General de Protección de Datos de la Unión Europea².

En definitiva, la transparencia algorítmica no solo es una exigencia técnica, sino un requisito ético y jurídico que debe garantizar el respeto a los derechos de las personas usuarias, la rendición de cuentas y la confianza en las instituciones públicas. Sin ella, la IA corre el riesgo de convertirse en una “caja negra” que perpetúe o amplifique desigualdades en lugar de combatirlas.

Participación y control profesional en la toma de decisiones para evitar el sesgo y la discriminación algorítmica:

Abordar el sesgo y la discriminación algorítmica no es una tarea opcional, sino un imperativo ético para que la IA no se convierta en un nuevo instrumento de exclusión, sino en una herramienta para promover la equidad y la justicia social³.

Los algoritmos se basan en datos históricos y decisiones humanas que pueden reflejar desigualdades y estereotipos de la sociedad. Esto puede llevar a que los algoritmos reproduzcan y amplifiquen esas inequidades.

Por ejemplo, los sistemas que predicen el riesgo de exclusión social o asignan recursos pueden estar sesgados si los datos de entrenamiento incluyen prácticas discriminatorias del pasado. Esto podría perjudicar a colectivos como personas migrantes, minorías étnicas o mujeres vulnerables. En Estados Unidos, se ha documentado cómo sistemas automatizados han contribuido a excluir a personas pobres al basarse en datos sesgados.

En el contexto de los servicios sociales, diversos autores destacan que la falta de participación de profesionales del trabajo social en el diseño de sistemas algorítmicos incrementa el riesgo de sesgo, ya que se ignoran dimensiones éticas y de justicia social en favor de criterios puramente técnicos. Por ello, el sesgo no solo es un problema técnico, sino también un problema social y político que debe ser abordado desde un enfoque multidisciplinar^4,7.

Las recomendaciones para minimizar el sesgo incluyen:

• Revisión crítica de los datos: identificar y corregir variables que puedan ser fuente de discriminación indirecta (por ejemplo, el código postal como proxy de clase social o etnia).
• Validación externa: evaluar los algoritmos en contextos diversos para comprobar que su rendimiento es justo y equitativo entre distintos grupos.
• Diversidad en los equipos de desarrollo: incluir a profesionales de trabajo social, derechos humanos y representantes de colectivos afectados en las fases de diseño y prueba.

Además, la Comisión Europea en su Libro Blanco sobre la Inteligencia Artificial ⁵ insta a realizar evaluaciones de impacto ético previas a la implementación de sistemas de IA de alto riesgo, entre los que se encuentran aquellos utilizados en los servicios sociales.

Privacidad y protección de datos sensibles:

La privacidad y protección de datos son aspectos esenciales cuando se aplica la inteligencia artificial (IA) en los servicios sociales, debido a la naturaleza sensible de la información que se maneja: datos sobre salud, situación económica, entorno familiar, historia laboral y circunstancias personales de las personas usuarias. El tratamiento inadecuado de estos datos puede derivar en vulneraciones de derechos fundamentales, en estigmatización o en discriminación indirecta.

El Reglamento General de Protección de Datos (RGPD) (Reglamento (UE) 2016/679) constituye el marco jurídico de referencia en Europa. Este reglamento reconoce el derecho de las personas a la protección de sus datos personales y establece principios como la licitud, lealtad y transparencia en el tratamiento; la limitación de la finalidad; la minimización de datos (recoger solo los datos estrictamente necesarios); la exactitud; la limitación del plazo de conservación; la integridad y confidencialidad y la responsabilidad proactiva del responsable del tratamiento².

Uno de los pilares en el uso ético de la IA es la aplicación de la privacidad desde el diseño y por defecto (privacy by design y by default). Esto implica que la protección de los datos personales debe estar integrada en todas las fases de desarrollo del sistema: desde la concepción hasta su implementación y funcionamiento. La Agencia Española de Protección de Datos (AEPD) recomienda, además, realizar evaluaciones de impacto en protección de datos (EIPD) antes de desplegar sistemas de IA en los servicios sociales, dado que se considera un tratamiento de alto riesgo por la naturaleza de los datos y por las posibles consecuencias para las personas afectadas.

Otro elemento clave es el derecho a la información. Las personas usuarias deben ser informadas de forma clara y comprensible sobre cómo se utilizan sus datos, con qué finalidad y qué derechos pueden ejercer (acceso, rectificación, supresión, oposición, limitación del tratamiento y portabilidad). Este derecho a la información es esencial para garantizar la autonomía y la capacidad de decisión de las personas⁶.

El uso de IA en los servicios sociales plantea además el riesgo de perfiles automatizados que puedan condicionar el acceso a recursos o servicios. El artículo 22 del RGPD establece que las personas tienen derecho a no ser objeto de decisiones basadas únicamente en tratamientos automatizados, incluida la elaboración de perfiles, que produzcan efectos jurídicos o les afecten significativamente, salvo que concurran determinadas garantías adicionales, como la intervención humana o la posibilidad de impugnar la decisión.

Por tanto, un uso ético y responsable de la IA en este ámbito exige no solo cumplir con las obligaciones legales, sino también implementar medidas organizativas y técnicas que refuercen la confianza de la ciudadanía: auditorías de los sistemas, comités éticos de datos, formación de los profesionales en materia de protección de datos, y diseño de herramientas tecnológicas con altos estándares de seguridad.

CONCLUSIONES

La implementación de la inteligencia artificial en los servicios sociales representa una oportunidad sin precedentes para mejorar la eficiencia, la personalización de la atención y la gestión de los recursos. Sin embargo, estos beneficios potenciales solo pueden materializarse si la tecnología se desarrolla y se utiliza dentro de un marco ético y jurídico robusto, que garantice la protección de los derechos fundamentales de las personas usuarias y fomente la equidad social.

Un ejemplo de este compromiso es la publicación en mayo de 2025 de la primera guía para el uso ético de la inteligencia artificial en Trabajo Social, elaborada por la Comisión Deontológica del Colegio Profesional de Trabajo Social de Córdoba⁸.

Entre los principales desafíos identificados se encuentran la necesidad de garantizar la transparencia algorítmica, evitando que los sistemas de IA se conviertan en cajas negras inaccesibles que dificulten la rendición de cuentas y la defensa de los derechos de las personas atendidas. La posibilidad de explicar y auditar los algoritmos es clave para promover la confianza pública y el uso responsable de estas tecnologías.

Asimismo, el sesgo y la discriminación algorítmica deben ser abordados desde un enfoque multidisciplinar, que combine la revisión crítica de los datos, la validación externa de los sistemas y la participación activa de profesionales del trabajo social, expertos en derechos humanos y representantes de los colectivos más vulnerables. De esta manera, la IA podrá ser un instrumento que contribuya a la inclusión social, en lugar de reproducir o agravar desigualdades existentes.

La protección de datos y la privacidad deben integrarse desde el diseño de los sistemas de IA, respetando el marco normativo vigente y garantizando el derecho a la información y la intervención humana en decisiones automatizadas.

En definitiva, la IA debe ser una herramienta al servicio de la justicia social y de la inclusión, evitando convertirse en un nuevo factor de exclusión o vulnerabilidad.

BIBLIOGRAFÍA

1. El uso de algoritmos en el sector público en España: cuatro estudios de caso sobre. Digital Future Society. Barcelona 2023. Disponible en: https://digitalfuturesociety.com/report/algorithms-in-the-public-sector-four-case-studies-of-adms-in-spain/
2. Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos (Reglamento general de protección de datos). DOUE. 2016 May 4; L119:1-88.
3. Nieto V. Inteligencia Artificial y equidad digital en el Trabajo Social. IIASocial [Internet]. 18 may 2025. Disponible en: https://iiasocial.com/inteligencia-artificial-y-equidad-digital-en-el-trabajo-social/
4. Jaime Minguijón CS-M. La Inteligencia Artificial en los Servicios Sociales: estado de la cuestión y posibles desarrollos futuros. Cuadernos de Trabajo Social [Internet]. 2022;35 (2):319–29. doi.org/10.5209/cuts.78747
5. European Commission. White Paper on Artificial Intelligence: a European approach to excellence and trust [Internet]. Brussels: European Commission; 19 Feb 2020. COM(2020) 65 final .Available from: https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:52020DC0065
6. Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales. Boletín Oficial del Estado. 2018 dic 6; Núm 294:4627–4666.
7. Rodríguez-Martínez A, Pérez-Villar J, Martín-Cano M del C. Ética, responsabilidad y uso de tecnologías en la intervención social: Nuevos desafíos para nuevas oportunidades en Trabajo Social. RAE [Internet]. 2023 May 9 [;(23):81-94. Disponible en: https://revistaselectronicas.ujaen.es/index.php/rae/article/view/7843
8. Colegio Profesional de Trabajo Social de Córdoba. Guía para el uso ético de la inteligencia artificial en Trabajo Social [Internet]. Córdoba: CPTS Córdoba; mayo 2025. Disponible en: https://www.trabajosocialcordoba.es/app/webroot/files/cordoba/files/guiaiayts.pdf