Los límites jurídicos actuales para el uso de IA en decisiones diagnósticas varían significativamente según la jurisdicción, pero se caracterizan por marcos regulatorios fragmentados e incompletos, ambigüedad en responsabilidad legal, y ausencia de estándares específicos para IA generativa. [1-2]

Marcos regulatorios principales

Estados Unidos: La FDA regula las herramientas de IA como dispositivos médicos bajo el marco de Software como Dispositivo Médico (SaMD), aplicando un enfoque basado en riesgo. [2-4] Sin embargo, existen limitaciones importantes:

• La Ley 21st Century Cures excluye de la definición de dispositivo médico ciertos software de apoyo clínico, soporte administrativo y bienestar general, dejando muchas herramientas de IA fuera de la regulación de la FDA [2]
• El 96.7% de los dispositivos con IA/ML aprobados por la FDA utilizan la vía 510(k), que típicamente no requiere datos clínicos [1]
• Solo el 1.4% de los 691 dispositivos aprobados hasta octubre 2023 habían sido evaluados en ensayos intervencionistas [1]
• No existe un marco regulatorio integral específico para IA en salud en EE.UU. [2]

La FDA ha propuesto un enfoque de ciclo de vida total del producto para dispositivos con IA que incluye planificación, desarrollo, validación, despliegue, monitoreo operacional y evaluaciones de desempeño en el mundo real. [4]

Figure 2. Total Product Life Cycle Approach to Artificial Intelligence (AI)

FDA Perspective on the Regulation of Artificial Intelligence in Health Care and Biomedicine. JAMA. 20 de enero de 2025.

Content used under license from the JAMA Network® © American Medical Association

Unión Europea: La Ley de Inteligencia Artificial de la UE (2024) es el primer marco legal integral específicamente dirigido a la IA, incluyendo aplicaciones de alto riesgo en salud. [5] Esta ley:

• Categoriza los sistemas de IA por nivel de riesgo
• Impone obligaciones estrictas para IA de alto riesgo, como herramientas de apoyo a decisiones clínicas
• Requiere transparencia, gestión de riesgos, supervisión humana y monitoreo post-comercialización
• Complementa el GDPR para protección de datos de pacientes [5]

Vacíos legales críticos

Responsabilidad y rendición de cuentas: No está claro si los clínicos serán responsables en casos de diagnósticos erróneos o perdidos que involucren algoritmos diagnósticos, ni cómo se establecería la carga de la prueba en tales casos. [1]

Algoritmos adaptativos: Los algoritmos que aprenden y cambian con nueva información son difíciles de regular en los marcos actuales, ya que el producto inicialmente revisado puede diferir del que finalmente encuentra el usuario. [3]

IA generativa: Introduce preocupaciones de seguridad novedosas relacionadas con su tendencia a «alucinar» información falsa, y ninguna ley existente está diseñada para cubrir estos riesgos. [1]

Protección de datos y discriminación: La IA combina casos de uso de investigación y atención directa (proporcionando apoyo diagnóstico mientras continúa aprendiendo), lo que complica el consentimiento del paciente. Las leyes antidiscriminación en UE y EE.UU. son típicamente agnósticas a la tecnología y no cubren específicamente el sesgo en algoritmos de salud. [1]

Estándares de evidencia: Los marcos regulatorios actuales carecen de claridad respecto a los estándares de evidencia para IA, y la base de evidencia que respalda las intervenciones de IA es débil. [1] La aprobación no necesariamente requiere demostración de mejores resultados clínicos. [2]

Recomendaciones emergentes

Expertos recomiendan: [6]

• Construcción de sistemas seguros y confiables
• Procesos de validación, verificación y certificación para sistemas de IA
• Monitoreo de seguridad y reporte a nivel nacional
• Documentación apropiada y capacitación del usuario final
• Supervisión humana obligatoria
• Transparencia algorítmica

La regulación de la IA diagnóstica permanece en evolución, con diferencias internacionales significativas: mientras la UE ha adoptado un marco de mayor supervisión regulatoria, las administraciones estadounidenses han tendido a reducir la carga regulatoria. 

* Informes*
📆 Citas en línea y presenciales
☎️ 989 662 887
📞 (01) 332-4009
Av. Brasil 935. Jesús María. Lima. 🇵🇪 15072.
Urología Peruana Dr. Luis Susaníbar

Referencias

1. Khera R, Oikonomou EK, Nadkarni GN, et al. Transforming cardiovascular care with artificial intelligence: from discovery to practice: JACC state-of-the-art review. J Am Coll Cardiol. 2024;84(5):487-512.
2. Angus DC, Khera R, Lieu T, et al. AI, health, and health care today and tomorrow. JAMA. 2025;333(10):899-910.
3. Potnis KC, Ross JS, Aneja S, Gross CP, Richman IB. Artificial intelligence in breast cancer screening: evaluation of FDA device regulation and future recommendations. JAMA Intern Med. 2022;182(9):967-974.
4. Warraich HJ, Tazbaz T, Califf RM. FDA perspective on the regulation of artificial intelligence in health care and biomedicine. JAMA. 2025;333(18):1745-1747.
5. Bemporad J, De Domenico F, Pozzilli P. Algor-ethics in diabetes care: mapping the route. Diabetes Metab Res Rev. 2026;42(1):e70001.
6. Labkoff S, Oladimeji B, Kannry J, et al. Toward a responsible future: recommendations for AI-enabled clinical decision support. J Am Med Inform Assoc. 2024;31(8):1854-1862.