Tu médico no es un robot: Los riesgos de confiarle tu salud y tus datos privados a ChatGPT y otras IA
El uso de IA en salud presenta riesgos significativos, incluyendo diagnósticos erróneos y vulnerabilidad de datos personales, alertan expertos en ciberseguridad y medicina.
La Inteligencia Artificial generativa (GenAI) está transformando rápidamente nuestro día a día, pero su incursión en el ámbito de la salud ha encendido las alarmas de los expertos en ciberseguridad y medicina. Con la llegada de servicios como Copilot Health, ChatGPT Health y Amazon’s HealthAI, cada vez más usuarios recurren a los chatbots para interpretar historiales médicos, analizar resultados de laboratorio o buscar opciones de tratamiento.
Sin embargo, ESET Latinoamérica, compañía líder en detección proactiva de amenazas, ha emitido una contundente advertencia: esperar que una herramienta de IA asuma el rol de tu médico puede tener consecuencias peligrosas tanto para tu bienestar físico como para la privacidad de tu información más íntima.
🩺 El peligro del autodiagnóstico y las «alucinaciones» de la IA
En un contexto donde los sistemas de salud suelen estar saturados, la inmediatez y el tono seguro de un chatbot disponible 24/7 resulta tentador para pacientes nerviosos. No obstante, un reciente estudio de la Universidad de Oxford, publicado en Nature Medicine, reveló deficiencias preocupantes.
El estudio demostró que los modelos de lenguaje a menudo ofrecen tanto buenos como malos consejos, y los usuarios tienen grandes dificultades para distinguir entre ambos. A este fenómeno de respuestas inventadas o incorrectas se le conoce como «alucinaciones».
“A pesar de todo el entusiasmo, la IA simplemente no está lista para asumir el rol de médico. Los pacientes deben ser conscientes de que preguntarle a un modelo de lenguaje sobre sus síntomas puede ser peligroso, generar diagnósticos erróneos y no reconocer cuándo se necesita ayuda urgente”. — Dra. Rebecca Payne, autora principal del estudio de la Universidad de Oxford.
🔒 Tus datos médicos en manos de terceros
El riesgo clínico es solo la punta del iceberg. Al compartir información médica altamente sensible con un chatbot público, los usuarios exponen sus datos a políticas de privacidad y obligaciones legales que difieren enormemente de las de un hospital tradicional.
Mario Micucci, investigador de Seguridad Informática de ESET Latinoamérica, advierte que la mayoría de estas herramientas no están reguladas por normas estrictas de protección de datos médicos (como la ley HIPAA en EE. UU.), ya que se consideran servicios de consumo general.
“El riesgo no es solo recibir un consejo incorrecto, sino también que los usuarios compartan información personal con sistemas cuyas prácticas de intercambio de datos pueden diferir de las de un médico. Cuantas más empresas tengan estos datos, más oportunidades existen para que los atacantes las comprometan y los roben”. — Mario Micucci, investigador de ESET.
Además, la información podría ser utilizada para entrenar al propio modelo (reapareciendo en respuestas a otros usuarios) o terminar en manos de intermediarios de datos (data brokers) y ciberdelincuentes que utilizan estos perfiles para fraudes de seguros o extorsiones.
🛡️ Recomendaciones para proteger tu privacidad
Para minimizar la exposición a estos riesgos, los expertos de ESET recomiendan seguir estas reglas de oro al interactuar con IA sobre temas de salud:
- No subas documentos sensibles: Nunca compartas resultados de laboratorio ni historiales médicos sin entender cómo se manejan esos datos.
- Anonimato total: Evita introducir nombres, direcciones, números de seguro o identificadores de paciente.
- Ajusta la configuración: Asegúrate de desactivar las funciones de entrenamiento del modelo y borrar el historial del chat.
- Limita la información: Comparte solo los datos mínimos necesarios para formular tu consulta.
- Verifica siempre: No confíes ciegamente en las respuestas. Verifica con enlaces oficiales (como MedlinePlus) y, sobre todo, consulta siempre con un profesional de la salud.
Para saber más sobre seguridad informática visite el portal corporativo de ESET o escuche Conexión Segura, su podcast para saber qué está ocurriendo en el mundo de la seguridad informática. Para escucharlo ingrese a Spotify
Acerca de
ESET® proporciona seguridad digital de vanguardia para prevenir ataques antes de que ocurran. Al combinar el poder de la IA y la experiencia humana, ESET® se anticipa a las ciberamenazas conocidas y emergentes, asegurando empresas, infraestructuras críticas e individuos. Ya sea protección de endpoints, nube o dispositivos móviles, sus soluciones y servicios nativos de IA y basados en la nube son altamente efectivos y fáciles de usar. La tecnología de ESET incluye detección y respuesta sólidas, cifrado ultraseguro y autenticación multifactor. Con defensa en tiempo real las 24 horas, los 7 días de la semana y un sólido soporte local, mantiene a los usuarios seguros y a las empresas funcionando sin interrupciones. Un panorama digital en constante evolución exige un enfoque progresivo de la seguridad: ESET® está comprometido con una investigación de clase mundial y una potente inteligencia sobre amenazas, respaldada por centros de I+D y una sólida red global de socios. Para obtener más información, visite https://www.eset.com/latam o síganos en LinkedIn, Facebook y Twitter.
