Oportunidades y riesgos específicos de las tecnologías emergentes: seguridad, sesgos, deuda cognitiva
Objetivo de Aprendizaje Colaborativo
Que los participantes inicien el co-diseño de una “Rúbrica de validación de activos digitales seguros”.
Dinámica:Para que la Comunidad participe activamente en el diseño de la Rúbrica, se plantean algunas preguntas que pueden presentarse a los participantes para ayudarles a detectar las brechas entre la teoría tecnológica y la realidad asistencial.
Agenda (90 minutos)
La intención es que los expertos guíen a la Comunidad de Salud, en la comprensión del problema planteado y la creación de un producto relacionado que pueda ser utilizado por toda la comunidad.
10 minutos | Introducción a la coyuntura crítica de la salud digital regional y presentación de los objetivos de la sesión. Moderador: Dra. Mahuina Campos Castolo, Coordinadora de la Comunidad Salud CUDI, enfoque en educación médica y salud digital.
20 minutos | Perspectiva Clínico-Organizacional y Gobernanza.- Dr. José Enrique Pérez Olguín, Director General de Modernización del Sector Salud, Secretaría de Salud, México.
Enfoque: Análisis de los riesgos de la deuda cognitiva, la seguridad del paciente y los retos de la "interoperabilidad ética" en la implementación de sistemas.
20 minutos | Perspectiva Técnica y de Ingeniería de Datos.- Dr. Manuel Dorador González, Facultad de Ingeniería UNAM.
Enfoque: Abordaje técnico de los sesgos en la IA, el desarrollo de estándares para transformar "datos oscuros" en activos estratégicos y la mitigación de riesgos desde el diseño de software.
30 minutos | Debate Interactivo y Co-diseño (Mentimeter)
Dinámica: Sesión de preguntas y respuestas dirigida por el moderador. Se utilizarán herramientas digitales para que la audiencia participe en la validación de conceptos de seguridad y sesgos. (Propuesta desarrollada al final del documento)
10 minutos - Conclusiones y Cierre
Fuentes Seleccionadas para Fundamentar la Participación (por favor identificar si son adecuadas o preferirían incluir otras, o agregar algunas)
1. Wiesbauer, F., y Elshahati, N. (2026, 16 de julio). AI for medical education and research. LITFL. https://litfl.com/ai-for-medical-education-and-research/
2. Runyon, N. (2025, 15 de octubre). As AI usage accelerates, companies need to avoid cognitive debt & decay among their talent. Thomson Reuters Institute. https://www.thomsonreuters.com/en/institute/articles/avoiding-cognitive-debt-agency-decay
3. Lineamientos
4. World Health Organization. (2024). Ethics and governance of artificial intelligence for health: Guidance on large multi-modal models. World Health Organization. https://www.who.int/publications/i/item/9789240084759
5. U.S. Food and Drug Administration, Health Canada, & Medicines and Healthcare products Regulatory Agency. (2024). Transparency for machine learning-enabled medical devices: Guiding principles. U.S. Food and Drug Administration. https://www.fda.gov/media/179269/download
6. Alderman, J. E., Palmer, J., Laws, E., McCradden, M. D., Ordish, J., Ghassemi, M., Pfohl, S. R., Rostamzadeh, N., Cole-Lewis, H., Glocker, B., Calvert, M., Pollard, T. J., Gill, J., Gath, J., Adebajo, A., Beng, J., Leung, C. H., Kuku, S., Farmer, L.-A., … Liu, X. (2025). Tackling algorithmic bias and promoting transparency in health datasets: The STANDING Together consensus recommendations. The Lancet Digital Health, 7(1), e64–e88. https://doi.org/10.1016/S2589-7500(24)00224-3
Aval Institucional
Al igual que en ediciones previas, esta actividad cuenta con el aval de la Comunidad Salud de CUDI y del Departamento de Salud Digital de la Facultad de Medicina de la UNAM.
PROPUESTA PARA EL PRODUCTO FINAL INTERACTIVO Y COLABORATIVO
Ficha Semilla de Validación de Activos Digitales Seguros y Transparentes
El producto final del webinario será una ficha semilla, construida de manera colaborativa con la comunidad, para orientar la revisión inicial de activos digitales en salud, por ejemplo: aplicaciones, algoritmos, sistemas de apoyo a la decisión clínica, tableros, chatbots, plataformas o herramientas basadas en IA (antes de su adopción, piloto o implementación).
La ficha no pretende ser una rúbrica definitiva durante esta primera sesión, sino un instrumento inicial, práctico y reutilizable, que permita identificar criterios mínimos de seguridad, transparencia algorítmica, sesgos, interoperabilidad, supervisión humana, carga cognitiva y aceptabilidad.
¿Cómo se construiría?
Durante el bloque interactivo de 30 minutos, la comunidad participaría mediante Mentimeter para priorizar los ejes más relevantes, validar criterios mínimos y señalar elementos de riesgo crítico.
A partir de las respuestas, la moderación integraría en tiempo real una primera versión de la ficha con:
• propósito del activo digital
• población y usuario previsto
• riesgos para la seguridad del paciente
• requisitos mínimos de transparencia algorítmica
• origen, calidad y contexto de los datos
• riesgos de sesgo o inequidad
• condiciones de supervisión humana
• carga cognitiva para profesionales y pacientes
• criterios mínimos para decidir si el activo puede pilotearse, ajustarse o descartarse
Al cierre, se presentaría una versión preliminar consensuada por la comunidad, que posteriormente podría fortalecerse en una segunda sesión práctica hasta convertirse en una rúbrica formal de validación.
NOTA: Para robustecer el sustento académico y normativo del producto interactivo, se sugiere complementar las fuentes iniciales con tres referentes: la guía de la OMS sobre ética y gobernanza de IA para grandes modelos multimodales en salud; los principios FDA/Health Canada/MHRA sobre transparencia en dispositivos médicos con aprendizaje automático; y las recomendaciones STANDING Together sobre sesgos algorítmicos y transparencia en datos de salud. (Son las que se colocaron de la 4 a la 6).
