Checklist AI Act en salud mental. La IA Invisible, Riesgos Reales
Vivimos una época en la que la inteligencia artificial se ha vuelto prácticamente invisible: está integrada en videollamadas, sistemas de triaje, historias clínicas electrónicas, agendas, chatbots, diagnóstico asistido e incluso en la gestión administrativa.
La mayoría de los equipos de salud mental ya utilizan IA sin saberlo. Esta realidad genera riesgos, obligaciones y oportunidades nuevas, aún más relevantes con la entrada en vigor de la regulación europea AI Act.
Obligación legal: ¿Qué exige la AI Act?
La AI Act hace obligatorio el desarrollo de competencias de alfabetización digital en IA (AI literacy) para todo el personal implicado en salud mental.
No basta con formaciones genéricas (Microsoft, Google…): la ley exige formación específica, diferenciada por niveles de responsabilidad y riesgo (directivos, gerentes, clínicos).
“Los Estados miembros deberán asegurar que las personas responsables de decisiones sobre el uso de sistemas de IA y quienes interactúan directamente con estos sistemas reciban una formación adecuada y continua en IA, teniendo en cuenta la naturaleza y los riesgos de sus funciones.” (Artículo 4, AI Act)
Ámbitos críticos de la AI Act para salud mental
1. Sistemas de IA de alto riesgo (Anexo III y Art. 6-7)
Diagnóstico y tratamiento clínico (triaje automatizado, asistentes virtuales clínicos)
Monitorización de pacientes, predicción de recaídas, soporte a la decisión clínica
2. Transparencia y explicabilidad (Art. 13, 52)
Informar siempre que una herramienta utiliza IA
Explicar cómo se toman las decisiones/recomendaciones
3. Supervisión humana (Art. 14)
Supervisión directa y capacidad de intervención profesional
4. Calidad de datos y sesgo (Art. 10, 15)
Garantizar datos de calidad, no discriminatorios y auditables
5. Gestión de incidentes (Art. 9, 16, 62)
Reporte obligatorio de errores o incidentes graves
6. Registro y documentación (Art. 11, 18, 50)
Documentación exhaustiva y auditorías internas/externas
Checklist: ¿Estás preparado para la AI Act?
Cuestionario previo de autodiagnóstico
¿Qué herramientas digitales se utilizan habitualmente en la atención, el diagnóstico o el seguimiento de los usuarios (videollamadas, gestión, historias electrónicas, mensajería, etc.)?
¿Alguna de estas herramientas utiliza algoritmos de recomendación, automatización de triaje o procesos de decisión automatizada?
¿El equipo ha detectado algún incidente, error o problema relacionado con procesos digitales o automatizados?
¿Alguien ha recibido formación específica sobre riesgos, responsabilidades o buenas prácticas en IA en el último año?
¿Conocéis los requisitos legales mínimos (AI Act, RGPD) que pronto aplicarán a vuestros servicios?
¿Hay una persona o equipo encargado de revisar y validar el uso de herramientas IA en la institución?
Checklist completo de gobernanza en IA invisible
Gobernanza y responsabilidad
¿Qué herramientas digitales (videollamadas, historias electrónicas, sistemas de citas, gestión administrativa, etc.) utilizáis que podrían incorporar IA aunque sea “invisible” para el usuario?
¿Habéis consultado a los proveedores si sus productos utilizan IA, machine learning o alguna forma de automatización de decisiones?
¿Existe un protocolo específico para validar, utilizar y hacer seguimiento de estas herramientas con IA?
¿Sabéis quién asume la responsabilidad legal dentro de la institución por el uso de estas herramientas según la AI Act?
¿Cómo se documentan y controlan las decisiones tomadas con apoyo de IA?
Formación y competencias
¿El equipo clínico y directivo ha recibido formación específica sobre riesgos, obligaciones y buenas prácticas en IA en el último año?
¿El equipo sabe explicar a los pacientes o usuarios si alguna decisión clínica o recomendación proviene parcialmente de una IA?
¿Tenéis acceso a información clara y comprensible sobre el funcionamiento de los algoritmos de las herramientas digitales que utilizáis?
¿Se han identificado dudas, temores o barreras de comprensión en el equipo respecto a la IA?
Evaluación de riesgos
¿Se ha realizado una evaluación de riesgos específica para cada una de las herramientas digitales utilizadas en atención, diagnóstico o seguimiento?
¿Se han definido criterios para identificar sesgos, errores o incidentes relacionados con el uso de IA (decisiones inesperadas, discriminación, errores de triaje)?
¿Existen procedimientos para documentar y gestionar incidentes (errores clínicos, quejas, información errónea) donde la IA haya tenido un papel clave?
¿Cómo se realiza el seguimiento de errores o incidentes para garantizar que no se repitan?
Cumplimiento normativo
¿Conocéis los requisitos específicos de la AI Act, RGPD y ley española aplicables a vuestros servicios digitales?
¿Se han revisado recientemente los contratos y acuerdos con proveedores de soluciones digitales para asegurar el cumplimiento legal?
¿Se ha designado una persona o equipo responsable de supervisar el cumplimiento legal en relación con IA y datos digitales?
¿Tenéis preparado un protocolo de respuesta ante una auditoría o inspección reguladora relacionada con el uso de IA?
Innovación y mejora continua
¿Habéis identificado algún área o servicio donde la IA podría aportar valor añadido (mejora de eficiencia, accesibilidad, seguimiento, etc.)?
¿Existe un plan piloto o proyecto inicial para introducir IA de forma segura y controlada?
¿Disponéis de indicadores para medir tanto la eficiencia, como la seguridad y la aceptación de las herramientas de IA implementadas?
¿El equipo revisa y actualiza periódicamente los procesos, herramientas y criterios para adaptarse a la innovación y la normativa?
¿Qué hacer si detectas riesgos?
Si respondes en el checklist “NO” o “NO LO SÉ” a varias preguntas, es el momento de revisar tu gobernanza digital y preparar el equipo para la nueva realidad regulatoria.
Este diagnóstico es el primer paso para avanzar con seguridad, ética y eficacia hacia una salud mental digital responsable.
Descarga el Checklist de Gobernanza en IA Invisible para Salud Mental
¿Te ayudamos a cumplir y liderar?
La IA ya está en tu centro, aunque no la veas. La mejor prevención es anticiparse: revisa protocolos, forma al equipo y define quién asume la responsabilidad.
Si quieres dar este salto con criterios claros y seguridad, contáctanos para talleres, consultoría o formaciones a medida.
Digital Mental Health Consortium
https://www.digitalmentalhealth.eu
partnerships@digitalmentalhealth.eu
Enlaces de interés:
https://artificialintelligenceact.eu/
Bonus: experiencia pionera
En el primer confinamiento fuimos pionero al crear el primer consentimiento informado específico para terapia online en español y el checklist para teleconsulta. Aquello salvó a cientos de profesionales frente a la inseguridad legal y ética del momento. Hoy la historia se repite: la IA ya está aquí y el riesgo no es solo técnico, sino legal y reputacional.