Los chatbots de IA quieren tu historial médico: oportunidades y riesgos de una nueva frontera digital

La industria tecnológica está dando un paso audaz en su intento por integrar la inteligencia artificial en la vida cotidiana: ahora buscan acceder a la información más sensible de las personas, sus historiales médicos. Microsoft presentó esta semana una herramienta que permitirá a los usuarios de su chatbot Copilot compartir y analizar sus registros de salud provenientes de múltiples proveedores, así como datos de dispositivos de actividad física como el Apple Watch o Fitbit. Esta iniciativa se suma a las de Amazon, OpenAI y Anthropic, que ya están probando herramientas similares bajo nombres como Health AI, ChatGPT Health y Claude for Healthcare.

La promesa es tentadora: ofrecer a los pacientes una visión integrada y de alto nivel sobre su salud, conectando información dispersa en diferentes sistemas médicos y dispositivos. Dominic King, vicepresidente de salud de Microsoft en su división de IA, explicó que el objetivo es "dar a los consumidores y a los pacientes una visión y una inteligencia increíbles sobre su propio historial y ayudarlos a navegar por retos muy complejos". La compañía asegura que, mientras un médico necesitaría horas para revisar manualmente todos esos datos, Copilot Health podría hacerlo en segundos, ayudando a las personas a prepararse mejor para sus citas médicas.

Los riesgos de privacidad y la fiabilidad de los diagnósticos automáticos

Sin embargo, los expertos advierten que esta nueva funcionalidad abre una caja de Pandora en términos de privacidad y seguridad. Matthew Green, profesor adjunto de Informática de la Universidad Johns Hopkins, señaló que centralizar los historiales médicos en un solo lugar los convierte en "una mina de oro de datos de gran valor" para los ciberdelincuentes. Además, a diferencia de los proveedores de salud tradicionales, las empresas tecnológicas no están sujetas a la Ley de Portabilidad y Responsabilidad del Seguro Médico (HIPAA), que exige estrictas protecciones de privacidad. Esto significa que, en teoría, podrían usar los datos para entrenar sus sistemas de IA o para publicidad dirigida, aunque Microsoft ha asegurado que los datos estarán encriptados y no se usarán para esos fines.

Otro frente de preocupación es la precisión de los consejos médicos proporcionados por los chatbots. A pesar de que Microsoft incluye una advertencia de que su herramienta "no pretende diagnosticar, tratar ni prevenir enfermedades", Girish Nadkarni, director de IA del Sistema Sanitario Monte Sinaí, considera ingenuo pensar que los usuarios no buscarán diagnósticos. Un estudio reciente reveló que varios chatbots no eran mejores que una búsqueda web para guiar a los usuarios hacia diagnósticos correctos, y en ocasiones presentaban información falsa o cambiaban drásticamente sus consejos con ligeras variaciones en las preguntas.

Ejemplos como el de un hombre de 60 años que fue internado en una unidad psiquiátrica tras seguir el consejo de ChatGPT de sustituir la sal por bromuro sódico, o el de modelos de IA que no detectaron urgencias médicas de alto riesgo en casos hipotéticos, subrayan los peligros potenciales. Lisa Piercey, ex comisionada sanitaria de Tennessee, advirtió que un resumen básico de un chatbot podría crear ansiedad innecesaria al sugerir, por ejemplo, la posibilidad de un tumor cerebral ante un simple dolor de cabeza. Microsoft asegura que está lanzando Copilot Health de forma gradual y que el chatbot está diseñado para evitar dar consejos médicos directos, ofreciendo en su lugar "orientación y apoyo", pero la compañía aún no ha publicado estudios independientes que avalen la seguridad y eficacia de su sistema.