Tu proveedor médico podría estar registrando tus visitas de salud mental

Por Roxsy Lin

(Arte de Roxsy Lin.)

En 2024, Kaiser Permanente anunció el lanzamiento de Abridge. Descrito en un comunicado de prensa como "tecnología de escucha ambiental", el escriba impulsado por IA está diseñado para ayudar a clínicos, incluidos los profesionales de salud mental, a capturar de forma segura las notas clínicas durante las visitas a los pacientes.

Pero lo que la descripción no indica es que la herramienta registra citas médicas completas, incluidas sesiones de salud mental profundamente personales.

Durante estas sesiones, los profesionales de la salud mental deben obtener el consentimiento de los pacientes antes de utilizar la herramienta. Sin embargo, como han compartido varios proveedores, ese proceso de consentimiento no incluye explicaciones sobre cómo se maneja la información. Tampoco dice cuánto tiempo y dónde se almacenan las grabaciones, ni quién tiene acceso a los datos.

Esto ocurre en parte porque esa información no se ha compartido con los proveedores, a pesar de sus intentos de obtenerla.

'Garantías vacías'

Ilana Marcucci-Morris decidió no usar la plataforma con sus pacientes. Es trabajadora social clínica licenciada en Kaiser Psychiatry en Oakland, CA. También es miembro de un comité de negociación. En ese puesto, se reúne regularmente con varios representantes de Kaiser, incluido el director de salud mental del norte de California.

Marcucci-Morris describe cómo, durante esas reuniones, ella y otros miembros del comité han hecho preguntas sobre las protecciones de privacidad de los pacientes, el cumplimiento de la HIPAA y las salvaguardas existentes para el uso de estas tecnologías.

Según ella, la respuesta de la dirección ha sido a menudo vacías garantías: "Somos obedientes. Eso es todo. Eso es todo lo que necesitas saber. Revisamos la tecnología, terapeuta. No te preocupes. Eso no es tu trabajo. Tenemos expertos en tecnología. Ese es su trabajo", dijo Marcucci-Morris en una entrevista con American Community Media.

"No nos lo mostrarán, ¿verdad? Y mi sensación es que, si no tienes nada que ocultar y lo haces totalmente [...] éticamente, entonces nos lo demostrarías, lo demostrarías. No pueden, y no lo harán, y se negaron a hacerlo cuando se los pedimos."

Ligia Pacheco es trabajadora social psiquiátrica que ofrece servicios de terapia remota para pacientes de Kaiser en el sur de California. Dijo que Kaiser también rechazó sus peticiones de dar más explicaciones.

En una entrevista con ACoM, Pacheco recordó cómo una compañera de trabajo expresó preocupaciones a un supervisor. La respuesta: "es poco profesional que compartas tus creencias personales sobre la IA en nuestro entorno laboral."

Para Pacheco, "eso solo lleva a una moral baja, sin espacio para defender a los pacientes. Se supone que debemos ser la voz de los pacientes que llegan en su estado más vulnerable. Y ni siquiera podemos ser esa voz para ellos, así que nos sentimos desanimados."

"Paciente tras paciente tras paciente"

En los últimos años, los profesionales han tenido que atender a más pacientes. Eso genera una presión intensa para mantener la documentación y las cargas de trabajo, destacó Marcucci-Morris.

"Eres como ver paciente tras paciente tras paciente tras paciente con apenas tiempo para ir al baño, comer un tentempié [...] A tomar un poco de aire fresco", dijo.

Según Marcucci-Morris, negarse a gestionar el aumento del volumen de pacientes puede considerarse un incumplimiento de las expectativas laborales. También puede conllevar acciones disciplinarias.

Como delegada sindical, dijo que a menudo representa a sus compañeros durante investigaciones laborales relacionadas con retrasos en la documentación o dificultades para gestionar cargas de trabajo elevadas. En esas situaciones, dijo que la dirección recomienda frecuentemente el uso de Abridge para ahorrar tiempo y evitar más sanciones.

En su opinión, los proveedores que conoce que utilizan la tecnología no lo hacen porque la apoyen o confíen. Más bien, es porque sienten la presión de proteger sus empleos y cumplir con las demandas laborales.

"Considero eso coercitivo porque pones a alguien en la posición de perder su trabajo o usar el software. Esa es otra decisión bajo presión", explicó.

Preocupaciones sobre el proveedor y el paciente

Brian Hoberman es director de información de The Permanente Medical Group. En un comunicado de prensa de Kaiser, dijo: "La tecnología avanzada de Abridge apoya el bienestar de nuestros médicos al reducir la carga de documentación."

Añadió: "Implementamos esta nueva tecnología tras una revisión cuidadosa y pruebas diligentes y comprobamos que fue bien recibida por pacientes y médicos..."

Para al menos un paciente entrevistado para esta historia, tales garantías no cumplen.

"Temo que este tipo de información que se está grabando ahora pueda acabar en manos equivocadas", dijo el paciente, que pidió no ser identificado por motivos de privacidad. "Puede que no quiera a mis empleadores, puede que no quiera a mis familiares, puede que no quiera que la gente conozca algunas de estas conversaciones tan íntimas y profundas que tengo con mis médicos [y] con mi proveedor de salud mental."

Adriana Webb es trabajadora social en Kaiser Panorama City en Los Ángeles. "Trabajo con pacientes que tienen diagnósticos médicos sensibles, como [...] VIH y SIDA, y muchas veces mis pacientes ni siquiera quieren eso en su historial."

Un portavoz de Kaiser Permanente insistió en una respuesta por correo electrónico a ACoM en que los clínicos están obligados a obtener el consentimiento del paciente antes de usar Abridge. "Nadie es grabado sin su conocimiento y consentimiento", decía el comunicado.

Añadió que las grabaciones se almacenan durante un máximo de 14 días y que el procesamiento de datos cumple con todos los requisitos de la HIPAA, así como con los propios estándares de privacidad y seguridad de Kaiser Permanente.

"Abridge ayuda a los clínicos a dedicar más tiempo a los pacientes y menos tiempo a tareas administrativas", afirmó.

Instrumentalización de los datos de salud mental

Según Nicole Álvarez, analista principal de política tecnológica en el Center for American Progress, "un historial de los peores momentos de alguien puede usarse en su contra de formas que, ya sabes, [...] una lectura de presión arterial alta no puede."

Dijo que los datos de salud mental pueden ser especialmente sensibles debido al estigma que rodea a las condiciones de salud mental. Para los pacientes, ese estigma conlleva consecuencias reales en áreas como el empleo, casos de custodia de menores, asuntos migratorios y autorizaciones de seguridad. Enfatizó que, al igual que otras formas de datos personales, la información de salud mental puede usarse como arma contra individuos.

Los acuerdos entre sistemas de salud y proveedores de IA pueden variar considerablemente, añadió. Esto incluye términos relacionados con si las grabaciones de audio o transcripciones pueden usarse para entrenar modelos de IA, si los datos de los pacientes se desidentifican, cuánto tiempo se conservan, si pueden compartirse con otros clientes y qué ocurre con la información una vez finalizado el contrato.

Kaiser insiste en que ningún dato que recopile se utiliza para entrenar modelos de IA.

Aun así, según la experiencia de Álvarez, los pacientes a menudo tienen poca visibilidad sobre estos acuerdos. Argumentó que los sistemas de salud tienen la responsabilidad de revelar claramente cómo se maneja y utiliza la información de los pacientes.

Álvarez también enfatizó que, en la mayoría de los casos, los pacientes tienen derecho a negarse a grabar. Pero, dijo, el proceso de renuncia no siempre se presenta claramente. Según ella, las opciones de consentimiento pueden ir desde preguntas directas en el check-in hasta un lenguaje oculto en la documentación de admisión, por lo que es importante que los pacientes revisen cuidadosamente los formularios y las divulgaciones.

Dijo que el consentimiento significativo requiere que los pacientes no solo sepan que están siendo grabados y que pueden rechazarlos, sino también entender cómo su información puede almacenarse, compartirse o usarse después.

Consentimiento coercitivo

Pacheco experimentó esto durante una cita personal en Kaiser. Su médico no pidió permiso para usar la app y en su lugar le informó que se usaría. Tras un momento, decidió rechazar el uso de la plataforma. Aunque la doctora detuvo la grabación, ella notó una incomodidad notable en su actitud después.

Más tarde decidió cambiar de médico.

Situaciones como esta preocupan a Marcucci-Morris, quien afirmó que el enfoque de la empresa para obtener el consentimiento para el uso de Abridge durante las citas puede resultar manipulador y coercitivo. En su opinión, los profesionales están formados para presentar la herramienta de manera que ponga en oposición las necesidades de pacientes y médicos.

Explicó que a menudo se les dice a los pacientes que el sistema ayudará a los médicos con la documentación, reducirá el agotamiento y les permitirá pasar más tiempo con sus familias. Como resultado, los pacientes pueden sentirse culpables por rechazar el uso de la herramienta porque no quieren dificultar el trabajo de su profesional.

Cree que este enfoque presiona a los pacientes para que acepten en lugar de permitirles tomar una decisión completamente cómoda e independiente.

Según Kaiser, Abridge está disponible en "40 hospitales y más de 600 consultorios médicos en ocho estados y el Distrito de Columbia", parte de una adopción más amplia de la tecnología de IA por parte de la industria sanitaria. Abridge opera en más de 14 idiomas.

ACoM contactó varias veces con Abridge AI Inc. para obtener comentarios, pero no recibió respuesta. Según la página web de la empresa, Abridge se describe a sí misma como un "Asociado Comercial" para los proveedores. Se recomienda a los pacientes consultar las políticas de privacidad de los proveedores para obtener información sobre cómo se protegen sus datos.

"La terapia es más eficaz en la privacidad y cuando la confianza se logra a través de dos seres humanos", dijo Marcucci-Morris. Para ella, "la sanación ocurre cuando la empatía humana se ofrece sinceramente como parte de cualquier tipo de relación de tratamiento de salud mental."

Añadió: "Creo que grabar una sesión de terapia cambia el comportamiento humano.  Cambia la actitud del paciente."

Roxsy Lin es becaria de noticias locales de California en la Escuela de Posgrado de la Universidad de Revistas de UC Berkeley