Formación del personal administrativo para supervisar inteligencia artificial

AUTORES

1. Aránzazu León Fábrega. Auxiliar Administrativa HURV. Admisión, Zaragoza, España.
2. Julia Pérez Blasco. Auxiliar Administrativa. Secretaria de Traumatología, Zaragoza, España.
3. Rosa María Buendía Rojo. Auxiliar Administrativa, Zaragoza, España.
4. Carolina Vicente García. Auxiliar Administrativa. Consultas Externas, Zaragoza, España.
5. José María Bernal Torres. Auxiliar Administrativo del Servicio Nacional Aragonés, Zaragoza, España.
6. Maura Aparicio Zabalza. Auxiliar Administrativo, Zaragoza, España.

RESUMEN

La inteligencia artificial puede asistir a la admisión, la citación, la clasificación documental y la atención al usuario, pero sus respuestas requieren supervisión situada en el proceso sanitario. Esta monografía propone una formación por funciones para el personal administrativo y auxiliar administrativo: reconocer el alcance de cada herramienta, verificar datos y resultados, detectar sesgos y errores, proteger la confidencialidad, documentar correcciones y escalar decisiones clínicas o jurídicas. Se describen ejercicios con casos simulados, límites de autoridad, procedimientos ante fallos y criterios para evaluar el aprendizaje en el trabajo real. La alfabetización en inteligencia artificial exigida por la normativa europea debe adaptarse a la experiencia del trabajador, al contexto de uso y a las personas afectadas. Una supervisión eficaz necesita tiempo, acceso a fuentes contrastables, capacidad para detener una salida incorrecta y apoyo de responsables clínicos, técnicos y de protección de datos. La finalidad no es convertir al administrativo en especialista en modelos, sino permitirle reconocer cuándo una propuesta automatizada es útil, dudosa o inaceptable antes de que afecte al paciente.

PALABRAS CLAVE

Inteligencia artificial, capacitación en servicio, administración hospitalaria, seguridad del paciente.

ABSTRACT

Artificial intelligence can assist hospital admissions, scheduling, document classification and patient contact, but its outputs require oversight within the healthcare workflow. This monograph proposes role-based training for administrative and clerical staff: understanding each tool’s scope, checking inputs and outputs, spotting errors and bias, protecting confidentiality, documenting corrections and escalating clinical or legal decisions. It describes simulated cases, limits of authority, procedures for failures and ways to assess learning in everyday work. AI literacy under European rules should reflect staff experience, the setting of use and the people affected. Effective oversight requires time, access to reliable records, authority to stop an incorrect output and support from clinical, technical and data protection leads. Administrative staff do not need to become model specialists; they need to recognize when an automated proposal is useful, uncertain or unacceptable before it affects a patient.

KEY WORDS

Artificial intelligence, inservice training, hospital administration, patient safety.

DESARROLLO DEL TEMA

En un hospital, una herramienta de inteligencia artificial (IA) puede resumir una reclamación, proponer una respuesta a una consulta, identificar un posible duplicado en el registro o sugerir un hueco en una agenda. Ninguna de estas salidas es neutral si cambia la información que recibe una persona o el momento de su atención. El artículo 4 del Reglamento (UE) 2024/1689, en la redacción dada por el Reglamento (UE) 2026/1744, pide a proveedores y responsables del despliegue adoptar medidas para apoyar la alfabetización en IA de su personal, atendiendo a conocimientos, experiencia, contexto y personas afectadas^1,2. Para un administrativo, esto se traduce en competencia para supervisar el uso autorizado, conocer sus límites y hacer visible el error.

La formación debe vincularse con tareas y permisos reales, no limitarse a una charla sobre conceptos técnicos. El marco de competencias de UNESCO para funcionarios combina capacidades técnicas, de gestión y de gobernanza en la transformación digital pública³. En el hospital, la unidad de admisión necesita ejercicios diferentes de los de documentación clínica o atención al paciente. Esta monografía desarrolla contenidos y controles que pueden aplicarse al trabajo administrativo, sin atribuir al auxiliar la valoración clínica ni la aprobación institucional de un sistema.

Del inventario de usos a las responsabilidades:

Antes de impartir formación conviene inventariar qué herramientas están autorizadas, qué datos reciben, qué resultados producen y quién aprueba cada uso. No es igual un corrector de estilo que un sistema que ordena solicitudes de cita. El personal ha de distinguir una automatización con reglas explícitas de un modelo probabilístico y conocer si el resultado es borrador, alerta o acción ejecutada. El marco de gestión de riesgos de IA del National Institute of Standards and Technology propone gobernar, contextualizar, medir y gestionar riesgos durante el ciclo de vida del sistema⁴. Convertido en lenguaje de servicio, esto exige una ficha breve por herramienta con finalidad, versión, responsable, límites, canales de incidencia y procedimiento alternativo.

La supervisión humana solo funciona si el trabajador puede observar la información usada, corregir errores y detener o devolver una salida. Para los sistemas de alto riesgo sujetos a sus obligaciones, el artículo 26 del Reglamento europeo prevé medidas de uso, vigilancia y supervisión por personas con competencia, formación y autoridad adecuadas². Su aplicación está escalonada según la categoría del sistema tras la reforma de 2026¹. Esa exigencia no convierte automáticamente toda aplicación administrativa en sistema de alto riesgo; la clasificación corresponde al análisis jurídico y técnico de su finalidad concreta. La organización debe precisar qué puede decidir admisión, cuándo consulta a un clínico y quién desactiva una función defectuosa.

Una matriz sencilla puede asociar cada tarea con el responsable de la última revisión. El administrativo coteja identidad, fecha, canal de contacto y consistencia del expediente; el profesional sanitario confirma indicación, prioridad y contenido asistencial; informática investiga fallos de integración; la dirección aprueba reglas de proceso, y la persona delegada de protección de datos asesora sobre tratamientos. Las excepciones se registran. La formación incluye cómo pedir ayuda sin copiar datos personales en correos abiertos o servicios no aprobados.

Competencias para verificar resultados:

La primera competencia es comprobar la procedencia de cada dato. Una IA que transcribe una solicitud puede confundir dos apellidos, una fecha o el servicio de destino. El ejercicio práctico entrega al participante una solicitud original y una propuesta generada: debe señalar las discordancias, corregirlas en el sistema autorizado y documentar la causa. La segunda competencia es comprobar reglas de negocio, como duración de cita, requisitos de preparación o estado de una derivación, consultando la fuente vigente del centro. Una respuesta redactada con fluidez puede ser falsa o corresponder a una versión anterior del procedimiento.

La tercera competencia es la duda disciplinada ante la apariencia de autoridad del sistema. Una revisión sistemática de Goddard y colaboradores documentó el sesgo de automatización en sistemas de apoyo a decisiones: las personas pueden seguir recomendaciones erróneas u omitir señales que la herramienta no marca⁵. La evidencia procede en buena parte de contextos de decisión distintos del trabajo administrativo; se usa aquí para diseñar comprobaciones independientes, no para cuantificar un riesgo específico en admisión. Un caso formativo debe incluir deliberadamente una salida convincente pero equivocada y pedir que se identifique la fuente con la que se refuta.

También hay que reconocer cuándo una tarea aparentemente administrativa implica una decisión clínica. Si una herramienta cambia el orden de pacientes por una supuesta urgencia, interpreta síntomas en un mensaje o recomienda cancelar una prueba, el administrativo detiene la acción y remite el caso al circuito sanitario competente. No basta con añadir una firma humana al final: la persona revisora necesita tiempo e información suficiente para rechazar la propuesta y debe saber que hacerlo no se penaliza como retraso improductivo.

Privacidad y calidad de los datos:

Los datos de salud requieren especial cautela. La Agencia Española de Protección de Datos ha publicado orientaciones para adecuar al Reglamento General de Protección de Datos los tratamientos que incorporan IA⁶. En la formación se practica la minimización: introducir solo los datos necesarios en herramientas aprobadas, evitar pegar historias completas en asistentes generalistas y no trasladar ficheros a cuentas personales. El Reglamento (UE) 2016/679 establece principios de licitud, finalidad, minimización, exactitud y seguridad, además de condiciones específicas para categorías especiales de datos⁷. El empleado debe conocer el canal de consulta al responsable del tratamiento y el procedimiento local para comunicar una posible brecha.

Una clasificación errónea de documentos puede afectar tanto a la privacidad como a la continuidad. La Ley 41/2002 protege la confidencialidad de la información sanitaria y regula la custodia y acceso a la historia clínica⁸. Por ello, un resumen producido por IA no puede incorporarse como informe clínico validado ni enviarse al paciente sin la revisión que corresponda. La tarea administrativa consiste en cotejar identidad, episodio, tipo de documento, destinatario y estado de validación. Si hay dudas, se retiene el envío y se comunica la incidencia; no se corrige por intuición el contenido asistencial.

La calidad de entrada merece una sesión propia. La AEPD ha señalado la relación entre exactitud, idoneidad y calidad de datos en tratamientos con IA⁹. Un código obsoleto, un domicilio desactualizado o una identidad duplicada pueden hacer que una propuesta de cita o una respuesta personalizada falle, aunque el modelo funcione según diseño. El administrativo aprende a registrar la corrección en el sistema fuente y a comprobar si se propaga a la herramienta. Mantener una hoja paralela de “errores corregidos” con datos identificables crea un nuevo riesgo y dificulta la trazabilidad.

Sesgos, accesibilidad y trato al paciente:

Una herramienta entrenada con comunicaciones digitales puede funcionar peor para solicitudes en lenguaje no habitual, textos dictados, documentos escaneados o personas que necesitan interpretación. La supervisión debe buscar patrones, no solo fallos aislados: respuestas incompletas para ciertos canales, más derivaciones a revisión manual o errores repetidos en nombres. Registrar el tipo de fallo y comunicarlo de forma agregada permite a calidad e informática evaluar el sistema. El trabajador no debe inferir características sensibles de un paciente para “corregir” un algoritmo sin fundamento.

La formación incorpora situaciones de atención real: una persona que no comprende un mensaje automatizado, otra que no puede usar el portal y otra que pregunta por qué se cambió su cita. El administrativo debe ofrecer el canal alternativo aprobado, explicar qué trámite está pendiente en palabras claras y derivar las explicaciones clínicas. Debe saber que la respuesta generada puede ocultar un error detrás de un tono seguro. La accesibilidad se comprueba con la comprensión del usuario y con el éxito del trámite, no solo con que el mensaje haya sido enviado.

Para evitar una revisión simbólica, el servicio necesita instrucciones sobre cargas de trabajo. Si se exige cotejar cada resultado con el expediente original, la agenda debe reservar tiempo para ello. Si el volumen supera la capacidad, se ajusta el uso o se priorizan revisiones según el riesgo aprobado por la organización. Una métrica de productividad basada solo en expedientes cerrados puede presionar para aceptar borradores sin leerlos. La supervisión debe valorarse como trabajo propio y registrarse cuando corrige errores relevantes.

Aprendizaje práctico y evaluación:

Un itinerario formativo puede comenzar con una sesión común sobre qué hace la IA, límites, privacidad y responsables. Después se realizan talleres por puesto. En admisión, se cotejan citas propuestas contra prioridad y restricciones de agenda; en documentación, se detectan paciente o episodio incorrectos; en atención al usuario, se revisan respuestas generadas frente a un procedimiento actualizado. Cada caso usa datos ficticios y presenta una salida correcta, otra incompleta y otra claramente peligrosa. El participante debe justificar qué acepta, qué corrige y qué escala.

La evaluación no debería depender solo de un cuestionario de conceptos. Una observación estructurada puede medir si la persona identifica datos sensibles, contrasta una respuesta con una fuente, registra una corrección y detiene una acción fuera de su autoridad. Tras iniciar el uso, una revisión de incidencias permite ajustar los ejemplos formativos. La tasa de errores detectados puede subir al principio porque se observa mejor; debe interpretarse junto con errores que alcanzaron al paciente, tiempo de resolución, reclamaciones y carga del equipo. Se revisan también los casos en que un supervisor rechazó una sugerencia correcta, para mejorar el aprendizaje sin castigar la prudencia.

La formación continua debe acompañar cambios de modelo, instrucciones, datos o procedimiento. Cada actualización comunica qué cambió, qué casos se revalidaron y qué señales requieren atención. Un referente accesible en cada unidad puede resolver dudas de primer nivel y elevar problemas al comité responsable. Conviene programar simulacros breves de caída del sistema, respuesta incorrecta difundida o asignación de cita al paciente equivocado, verificando que el circuito manual se pueda activar y que los cambios queden reconciliados después.

CONCLUSIONES

Supervisar IA desde un puesto administrativo exige comprender su finalidad, verificar resultados con fuentes autorizadas, proteger datos y poder detener salidas inseguras. El diseño de la formación debe partir de las tareas y de los límites de cada puesto, con casos simulados y evaluación en el trabajo. La organización aporta tiempo, instrucciones, responsables y vías de escalado. Así, el administrativo puede corregir errores de identificación, agenda o comunicación sin asumir decisiones clínicas ni convertir la revisión humana en un trámite vacío.

BIBLIOGRAFÍA

1. Parlamento Europeo y Consejo de la Unión Europea. Reglamento (UE) 2026/1744, de 8 de julio de 2026, por el que se modifican las normas armonizadas en materia de inteligencia artificial. Diario Oficial de la Unión Europea [Internet]. 2026. Disponible en: https://www.boe.es/buscar/doc.php?id=DOUE-L-2026-81147
2. Parlamento Europeo y Consejo de la Unión Europea. Reglamento (UE) 2024/1689, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial. Diario Oficial de la Unión Europea [Internet]. 2024. Disponible en: https://eur-lex.europa.eu/eli/reg/2024/1689/oj/spa
3. UNESCO. Artificial intelligence and digital transformation: competencies for civil servants [Internet]. París: UNESCO; 2022. Disponible en: https://unesdoc.unesco.org/ark:/48223/pf0000383325
4. National Institute of Standards and Technology. Artificial Intelligence Risk Management Framework (AI RMF 1.0) [Internet]. Gaithersburg (MD): NIST; 2023. doi:10.6028/NIST.AI.100-1. Disponible en: https://doi.org/10.6028/NIST.AI.100-1
5. Goddard K, Roudsari A, Wyatt JC. Automation bias: a systematic review of frequency, effect mediators, and mitigators. J Am Med Inform Assoc [Internet]. 2012;19(1):121-127. doi:10.1136/amiajnl-2011-000089. Disponible en: https://pubmed.ncbi.nlm.nih.gov/21685142/
6. Agencia Española de Protección de Datos. Adecuación al RGPD de tratamientos que incorporan Inteligencia Artificial [Internet]. Madrid: AEPD; 2020. Disponible en: https://www.aepd.es/sites/default/files/2020-02/adecuacion-rgpd-ia.pdf
7. Parlamento Europeo y Consejo de la Unión Europea. Reglamento (UE) 2016/679, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales. Diario Oficial de la Unión Europea [Internet]. 2016. Disponible en: https://eur-lex.europa.eu/eli/reg/2016/679/oj/spa
8. España. Ley 41/2002, de 14 de noviembre, básica reguladora de la autonomía del paciente y de derechos y obligaciones en materia de información y documentación clínica. Boletín Oficial del Estado [Internet]. 2002;274. Disponible en: https://www.boe.es/eli/es/l/2002/11/14/41/con
9. Agencia Española de Protección de Datos. Exactitud, idoneidad y calidad de los datos en tratamientos de datos personales con Inteligencia Artificial [Internet]. Madrid: AEPD; 2026. Disponible en: https://www.aepd.es/guias/calidad-datos-inteligencia-artificial.pdf