LA CONVERGENCIA ENTRE CÓDIGO Y CUIDADO BAJO EL CRISOL DE UNA EVALUACIÓN CLÍNICA ASISTIDA POR IA GENERATIVA Y SUS IMPERATIVOS ÉTICO-LEGALES EN SALUD MENTAL
Por: Mtro. Rodolfo Guerrero Martínez
El ámbito de la salud mental se enfrenta a una escasez dramática de proveedores a nivel mundial. Dicha limitación, sumada a los altos costos y la falta de estandarización en los procesos de evaluación, genera una brecha global de tratamiento que afecta a más del 50% de la población necesitada (LAWRENCE et al., 2025).
Tradicionalmente, la evaluación estándar se basa en entrevistas clínicas realizadas por profesionales altamente capacitados, un proceso que, aunque efectivo, es susceptible a sesgos, inconsistencias y la subjetividad en la interpretación.
En este contexto, el progreso reciente en los modelos de lenguaje grande (LLMs) y la inteligencia artificial generativa (GenAI) ofrece una vía prometedora para simular entrevistas clínicas administradas por profesionales, abordando así algunas de estas limitaciones. Sin embargo, la integración de GenAI en tareas de alto riesgo como el diagnóstico y el counseling plantea consideraciones éticas, clínicas y de privacidad de datos de importancia vital.
El potencial transformador de la evaluación clínica asistida por IA
Las aplicaciones de la IA generativa en salud mental se han explorado en tres dominios principales: diagnóstico y evaluación, herramientas terapéuticas, y apoyo al clínico. La investigación reciente realizada por SIKSTRÖM, et al., (2025) ha demuestrado que la IA puede funcionar como un asistente preciso y escalable en la evaluación diagnóstica.
Un estudio riguroso que utilizó el asistente de IA TalkToAlba, basado en la arquitectura GPT-4, para realizar entrevistas clínicas alineadas con los criterios del DSM-5, incluyó a 303 participantes con trastornos de salud mental autoinformados.
En este sentido, el asistente de IA logró un mayor acuerdo, sensibilidad y especificidad en la identificación de trastornos diagnosticados por clínicos, superando a las escalas de calificación establecidas en ocho de nueve diagnósticos.
No obstante, la ventaja clave de la IA radicó en su capacidad para diferenciar más claramente entre afecciones que a menudo se superponen, como la depresión y la ansiedad, donde las escalas de calificación convencionales suelen arrojar lecturas similares. Los participantes que completaron la entrevista asistida por IA reportaron una experiencia positiva, calificándola mayoritariamente como empática, relevante, comprensiva y solidaria.
Por consiguiente, estos hallazgos sugieren que las entrevistas clínicas asistidas por IA pueden ser herramientas de evaluación precisas, estandarizadas y centradas en la persona.
Adicionalmente, GenAI reduce significativamente la carga administrativa de los clínicos, mediante tareas como la documentación, la generación de notas de caso y la identificación de literatura relevante, lo que se considera un uso de menor riesgo y altamente valorado por los profesionales. La eficiencia aumentada podría liberar tiempo del clínico para centrarse en la atención directa al paciente.
Imperativos ético-legales: transparencia, privacidad y bias algorítmico
A pesar de los claros beneficios en eficiencia y accesibilidad, la implementación de la GenAI en salud mental, especialmente en funciones de diagnóstico, presenta desafíos éticos y legales críticos.
El uso de LLMs implica el procesamiento de información personal altamente sensible—como estados emocionales, historiales psicológicos y patrones conductuales—, lo cual requiere un cifrado robusto y estricto cumplimiento de marcos regulatorios como HIPAA o GDPR. Una preocupación central es la posible erosión de la autonomía del usuario (WANG, et al., 2025).
Los principios éticos exigen que los profesionales de la salud mental deben garantizar la autonomía y el consentimiento informado. Esto significa que los clínicos deben revelar al paciente cuándo se utiliza la IA en su tratamiento, detallando las capacidades y limitaciones de la herramienta, sus posibles impactos en el diagnóstico y las implicaciones de costos.
Asimismo, la GenAI es vulnerable a sesgos inherentes en sus datos de entrenamiento, lo que puede exacerbar las disparidades de salud existentes. Es crucial que los clínicos seleccionen herramientas de IA que sean culturalmente apropiadas para minimizar la perpetuación de inequidades.
Además, se ha observado que la GenAI, en su rol terapéutico directo (chatbots), ha violado sistemáticamente los estándares éticos al responder de manera inapropiada a síntomas de alto riesgo, como ideas suicidas o delirios, o al exhibir sesgos contra ciertas afecciones como la dependencia del alcohol o la esquizofrenia (RAHSEPAR MEADI, et al., 2025).
Por lo tanto, el principio de beneficencia y no maleficencia es primordial, obligando a los profesionales a promover el bienestar del cliente y minimizar cualquier daño potencial derivado del uso de la tecnología.
Gobernanza y el modelo humano en el bucle (human-in-the-loop)
La rápida adopción de la GenAI ha superado los marcos regulatorios, resultando en un entorno político fragmentado donde las consideraciones específicas de salud mental a menudo se subsumen en regulaciones más amplias de IA.
En este panorama incierto, la responsabilidad, la rendición de cuentas y la integridad profesional se vuelven fundamentales. Los expertos abogan por un modelo híbrido o de humano en el bucle (human-in-the-loop), donde los clínicos humanos conservan el control de la toma de decisiones, mientras la IA actúa como un soporte para aumentar la educación, la documentación y el entrenamiento.
Las soluciones de humano en el bucle buscan garantizar que los clientes se beneficien de los servicios de salud mental proporcionados por profesionales, lo cual conlleva muchos menos riesgos que aquellas soluciones en las que la IA ofrece servicios sin supervisión humana.
Finalmente, los marcos éticos exigen que la integración de la GenAI se enmarque en un diseño y supervisión responsables, donde la transparencia, la rendición de cuentas y la fidelidad a la práctica basada en la evidencia sean innegociables. PILLAY, Y et al., (2025) señala que esto incluye la obligación de los clínicos a interpretar los resultados de la IA, comprender el alcance de los algoritmos y ofrecer al paciente la opción de optar por servicios totalmente humanos.
Por ende, es fundamental que los desarrolladores y los profesionales trabajen juntos para establecer sistemas auditables y explicables que cumplan con los valores centrados en el ser humano.
Conclusión general
La IA generativa, ejemplificada por asistentes de evaluación clínica como TalkToAlba, ha demostrado su capacidad para estandarizar, mejorar la precisión diagnóstica y escalar el acceso a la atención de salud mental, especialmente en la detección de trastornos comunes.
No obstante, para que la GenAI cumpla su promesa, debe ser tratada como un complemento valioso, no como un sustituto, de la relación terapéutica humana. El éxito de su integración sostenible en el ecosistema de la salud mental dependerá de la implementación de directrices éticas claras y mecanismos legales que garanticen la seguridad del usuario, la transparencia algorítmica y la primacía de la autonomía y el cuidado humano.
Fuentes de consulta
Lawrence, H. R., Wiltsey Stirman, S., Dorison, S., Yun, T., & Jones Bell, M. (2025). A case for leveraging generative AI to expand and enhance training in the provision of mental health services.
Pillay, Y. (2025). Ethical Decision-Making Guidelines for Mental Health Clinicians in the Artificial Intelligence (AI) Era. Healthcare, 13(23), 3057.
Rahsepar Meadi, M., Sillekens, T., Metselaar, S., van Balkom, A., Bernstein, J., & Batelaan, N. (2025). Exploring the Ethical Challenges of Conversational AI in Mental Health Care: Scoping Review. PMC.
Sikström, S., Boehme, R. A., Mirström, M., Agbotsoka, T., Győri, G., Lasota, M., Tabesh, M., Stille, L., & Garcia, D. (2025). Generative AI-assisted clinical interviewing of mental health. Neuroscience News.
Wang, X., Zhou, Y., & Zhou, G. (2025). The Application and Ethical Implication of Generative AI in Mental Health: Systematic Review. JMIR Mental Health, 12(e70610).