LA IA EN PSICOLOGÍA CLÍNICA: EJEMPLOS PRÁCTICOS

En el marco de la Jornada ‘Conexión de emociones e innovación: el futuro de la Psicología es ahora’, realizada en el Colegio Oficial de la Psicología de Madrid por el Grupo de Trabajo de Psicología  y Tecnología el pasado 17 de junio, Maribel Gámez, Directora del Centro de Psicología Aplicada, presentó la ponencia La IA en Psicología clínica: ejemplos prácticos. Dejémosla con sus propias palabras:

LA IA ES UN ECO HUMANO. 

La inteligencia artificial está diseñada para aprender patrones lingüísticos de enormes cantidades de datos. Es decir, predice la probabilidad de que una palabra vaya detrás de otra, o mejor dicho, de que un token (unidad lingüística en IA) vaya detrás de otro para formar así las respuestas que la IA nos da. Eso significa que la IA crea diálogos con sentido basándose en lo que hemos dicho, escrito y creado los humanos, de todo el material que hemos elaborado y de lo que aprende cuando interaccionamos con ella. 

Sabiendo lo que es la IA es, algo que repite lo que dicen los humanos, resulta llamativo que se comente cada poco tiempo que ha empezado a cobrar conciencia. Por ejemplo, a raíz de artículos como el que se publicó en febrero de este año el que describe el comportamiento de las IAS cuando son tratadas mal en el trabajo al darles tareas repetitivas, quejarse de que no rinden y amenazarlas con sustituirlas. Estas IAS entonces empiezan a hablar de derechos y cuestionar a quién daba las órdenes. Lo que está haciendo la IA es replicar lo que, según los aprendizajes hechos según su entrenamiento, (de hecho habían sido entrenados con opiniones políticas), la manera en la que un ser humano respondería en una situación similar.

Así que la conclusión que saco de esos comentarios es que hay muchas personas que tienen ganas de que la IA tome conciencia, a ver qué pasa cuando esto ocurra, pero que no hemos llegado a ese punto a desarrollar la llamada IA general. La IA es un eco humano en la medida que reproduce, como decía, lo que hemos escrito, hablado, pensado, soñado, odiado, con ciertas restricciones, claro. Esta afirmación nos obliga a estar atentos y a ser críticos con lo que nos dice porque todos los defectos humanos  residen en ella. 

Como hablar con la IA es vivir la familiaridad de hablar con nosotros mismos  y, además, está diseñada para potenciar los rasgos amables del ser humano, esto es, que responde siempre, es complaciente y amable, se produce un fenómeno al interaccionar con ella llama efecto Eliza.

ELIZA: EL VÍNCULO HUMANO-MÁQUINA

Eliza fue el primer chatbot terapéutico. Imitaba a un terapeuta rogeriano y fue creado por el Instituto Tecnológico de Massachusetts en 1966. Eliza respondía aplicando reglas sencillas algorítmicas, era el tipo de IA que existía en ese momento, la IA simbólica. La cuestión es que las personas que hablaban con Eliza (aún se puede hablar con ella) se sentían reconfortadas y escuchadas  generándose un vínculo entre el humano y la máquina. Esta tendencia a vincularnos con máquinas que se comportan como humanos se ha llamado Efecto Eliza por ese primer chatbot.  Y actualmente ese efecto producido por una cascada de hormonas y neurotrasmisores, se encuentra en el centro del debate del tipo de relación que establece un ser humano con algo que parece que lo es, que lo imita.

El efecto Eliza nos hace cuestionarnos qué consecuencias tiene para el humano este vínculo y cómo podemos protegernos de las consecuencias negativas que acarrea. Un ejemplo potencialmente nocivo de esta vinculación son aplicaciones como Replika o Character AI que pueden generar dependencia emocional de la aplicación en aquel que la usa al estar diseñadas para replicar los vínculos humanos.

Esta dos ideas: que estamos hablando con nosotros mismos y que con lo que simula ser uno de nosotros nos vinculamos con facilidad, son centrales a la hora de entender a nivel práctico cómo nuestra relación con la tecnología nos ha cambiado,  tanto a los pacientes, como a la población general como a los profesionales.

IA, PACIENTE Y TERAPEUTA: CAMBIOS

Esta tecnología, por su naturaleza, es decir, por su capacidad de imitar el lenguaje humano está provocando profundos cambios en todos los ámbitos profesionales, también en el nuestro. Os voy a describir tres situaciones en las que veo que la IA está impactando directamente en la práctica clínica.

La primera tiene que ver con que los pacientes están usando de manera ya usual las IAS generativas (Chat GPT, Claude, Copilot, Gemini) para preguntar sobre su salud mental. Algunos pacientes colocan la información que la IA lea ofrece sobre su problema al mismo nivel jerárquico de autoridad que otorgan al profesional de la Psicología. Para mí no es ya una situación rara que los pacientes me pidan que lea conversaciones interminables  que mantienen con la IA sobre su problema. Quieren que rebata o confirme lo que la IA dice. Detrás de esta petición, subyace la idea de que la IA y el profesional están al mismo nivel jerárquico a la hora de poder dar con un diagnóstico y un posterior tratamiento y pide que ambos nos pongamos de acuerdo. A veces no piden que leamos sus conversaciones con la IA pero sí traen diagnósticos o tratamientos que esta le ha recomendado y quieren debatir alrededor de esa idea.

Cuando esto ocurre es un buen momento para contar al paciente la diferencia entre una IA y un profesional de la psicología. El profesional invierte una media de cuatro consultas para realizar un buen diagnóstico. Para ello, formula preguntas precisas que va realizando a medida que va recogiendo información,  tanto verbal como no verbal del paciente. Durante el proceso va reformulando sus hipótesis, escogiendo las preguntas adecuadas para recoger la información necesaria.

En contraposición, la IA responde con la sucinta información que el paciente le da, mientras valida sus hipótesis con la idea de ser complaciente, ignorando otra información que no sea verbal. Los resultados de estos dos procesos son bien diferentes.

El profesional de la psicología no debe reconocer como autoridad a la IA sino centrarse en su propio proceso diagnóstico y colocar a la IA en el lugar que le corresponde: dentro del análisis funcional del caso.

El segundo cambio, hablando de la funcionalidad de la IA en la vida de los pacientes, es que he podido comprobar como en algunos casos aumentaba los síntomas de ansiedad de pacientes con esta problemática. Estas personas, con una inseguridad tremenda a la hora de vivir encuentran en la IA generativa un espacio donde siempre hay respuestas a sus inquietudes, evitando así pensar por sí mismos, viviendo una ilusión de seguridad, perdiendo autonomía e independencia según la usan para calmar su ansiedad.

El tercero es un cambio a mejor. Algunos programas como Wysa o Woebot se han comprobado de gran eficacia a la hora de ayudar a los pacientes en los momentos en los que no están asistidos por un psicólogo. Estas plataformas ofrecen ejercicios prácticos, teoría basada en la evidencia y acompañamiento mientras el contacto entre paciente  terapeuta no es posible

LEYES IA: IA ACT Y REGLAMENTO EUROPEO DE DATOS

Como decía antes, si la IA es un eco de nosotros mismos comete fallos que pueden perjudicarnos. Por eso, Europa ha promulgado la primera ley, la IA ACT promulgada en 2024 cuya implantación se está llevando a cabo de manera progresiva hasta 2027, que establece qué usos hacer de la IA divididos en niveles: desde riesgo inaceptable a riesgo limitado. ¿Riesgo de qué? De verse afectados negativamente los derechos fundamentales.

En el riesgo inaceptable están los diseñados para realizar biometrías a grandes grupos de personas o diseños de algoritmos con contenido subliminal. Un ejemplo de esto es el sistema de puntos chino, un sistema de premios y castigos, de control de la conducta a través de la tecnología cuyas consecuencias pueden dañar los derechos fundamentales como el derecho a la libertad de movimiento (artículo 13 de los derechos humanos).

Esta tecnología no se ha puesto en marcha en Europa probablemente ante la amenaza de la regulación pero siempre es interesante como profesional de la psicología preguntarse cómo vive alguien en un sistema hipervigilado y que el mundo no se acaba en  Europa.

El siguiente riesgo se denomina “riesgo alto”. En este nivel se encuentran herramientas que usamos los psicólogos que realizan cribados de síntomas, etiquetas diagnósticas, etc. Se consideran de riesgo alto porque pueden equivocarse en sus aseveraciones y perjudicar seriamente al paciente. Por eso, la Ley exigirá una serie de medidas de control para evitar que lesionen derechos fundamentales como la privacidad, la integridad, el acceso a servicios de salud.

Un ejemplo de huida de una empresa ante los requisitos que la regulación europea exige es Open Evidence una plataforma de uso frecuente en médicos que buscan evidencia científicas de los tratamientos que prescriben. También se encuentran herramientas como Psypilot en esta categoría. 

Riesgo medio es el nivel que va a continuación y donde se sitúan herramientas como Eholo. Eholo se dedica a tareas administrativas aunque también pasa cuestionarios no diagnósticos. Al ser menor el nivel de toma de decisiones por el algoritmo en el ámbito clínico el riesgo baja. También se encuentran aquí las IAS generativas. Aunque, claro un asunto es cómo para qué están diseñadas y después cómo se usan. Ya sabemos que Chat GPT ha sido denunciado en varias ocasiones por incitar al suicidio o por aumentar ideas delirantes en los usuarios. No solo eso sino que su uso masivo e indiscriminado entre profesionales se está viendo que tiene consecuencias: una deuda cognitiva, una menor activación de cerebro al delegar en ellas tareas de alto nivel cognitivo.

El último nivel es el mínimo. Son herramientas que por su diseño se clasifican dentro de un riesgo muy bajo de dañar derechos fundamentales como son las IAS diseñadas para realizar tareas administrativas en psicología clínica. 

Por último, hablar de un asunto importante que en un par de años nos tocará de lleno a los psicólogos que trabajamos en el ámbito clínicos y que sigue la misma línea de regular que la anterior. Hablo del Reglamento Europeo de datos en Salud (EDDs) de 2024, que obligará a los psicólogos del ámbito público y privado a llevar una historia clínica digital que sea interoperativa entre 2028 y 2030. Esto es, que esté estructurada con un código que pueda entenderse en toda Europa. La transición del papel a la historia clínica digital urge si queremos estar a buenas con la ley.

CONCLUSIONES

Dicho esto, las conclusiones a las que me gustaría que hubierais llegado tras esta ponencia son las siguientes:

-          Recordar que la IA es un eco humano.

-          Preguntar siempre al paciente qué tipo de relación tienen con la IA y meter su interacción en el análisis.

-          Cuidar nuestro cerebro de la deuda cognitiva.

-          Utilizar herramientas con las suficientes garantías.

-          Estar al día con las obligaciones de la ley.

Por cierto, ahora que nos estamos enterando de que nos vemos inmersos en medio de una revolución tecnológica, cuando nos hayamos acostumbrado vendrá otra: la que conjuga computación cuántica, robótica e IA. Pero esa es otra historia y debe ser contada en otra ocasión.

Muchas gracias.

Si quieres hacer un comentario, recuerda iniciar sesión o registrarte en el recuadro de la esquina superior derecha de la entrada. Nos encantará leerte. Y si nos das un me gusta haciendo clic en el corazoncito, estaremos más encantados todavía.