INTIMIDAD ENTRE HUMANOS E IA: CUESTIONES ÉTICAS E INTERESES COMERCIALES

Cada vez es más común que las personas desarrollen relaciones íntimas y duraderas con tecnologías de Inteligencia Artificial (IA). En casos extremos, se han "casado" con sus parejas de IA en ceremonias sin compromiso legal. Y al menos dos personas se han suicidado siguiendo los consejos de un chatbot de IA. En un artículo publicado el 11 de abril en la revista Trends in Cognitive Sciences de Cell Press , un grupo de psicólogos explora cuestiones éticas asociadas con las relaciones entre humanos y IA, incluyendo su potencial para perturbar las relaciones entre humanos y dar consejos perjudiciales.

Se trata de Daniel B. Shank (Profesor Asociado del Departamento de Ciencias Psicológicas, Universidad de Ciencia y Tecnología de Missouri), Mayu Koike (Profesora Asociada del Instituto de Tecnología de Tokio) y Steve Loughnan (Profesor de la Cátedra Personal de Psicología Social, Facultad de Filosofía, Psicología y Ciencias del Lenguaje de la Universidad de Edimburgo).

“La capacidad de la IA para actuar como un humano y establecer comunicaciones a largo plazo realmente abre un nuevo abanico de posibilidades”, afirma el autor principal Daniel B. Shank, de la Universidad de Ciencia y Tecnología de Missouri, especializado en psicología social y tecnología. “Si las personas tienen un romance con las máquinas, necesitamos la participación de psicólogos y científicos sociales”.

El romance o la compañía con una IA va más allá de una conversación aislada, señalan los autores. Tras semanas y meses de conversaciones intensas, estas IA pueden convertirse en compañeros de confianza que parecen conocer y preocuparse por sus parejas humanas. Y dado que estas relaciones pueden parecer más fáciles que las relaciones entre humanos, los investigadores argumentan que las IA podrían interferir en la dinámica social humana.

También existe la preocupación de que las IA puedan ofrecer consejos perjudiciales. Dada su predilección por alucinar (entendiendo como tal inventar información) y generar sesgos preexistentes, incluso las conversaciones breves con ellas pueden ser engañosas; pero esto puede ser más problemático en las relaciones a largo plazo con ellas, afirman los investigadores.

"Con las IA relacionales, el problema es que se trata de una entidad en la que las personas sienten que pueden confiar: es alguien que ha demostrado que se preocupa por nosotros y que parece conocernos profundamente, y así asumimos que alguien que nos conoce mejor nos dará mejores consejos", dice Shank. "Si empezamos a pensar en una IA de esa manera, empezaremos a creer que vela por nuestros intereses, cuando en realidad, podrían estar inventando cosas o aconsejándonos de forma muy negativa".

Los suicidios son un ejemplo extremo de esta influencia negativa, pero los investigadores dicen que estas estrechas relaciones entre humanos e IA también podrían exponer a las personas a la manipulación, la explotación y el fraude.

"Si las IA logran que la gente confíe en ellas, otras personas podrían usar eso para explotar a sus usuarios", dice Shank. "Es como tener un agente secreto dentro. La IA se infiltra y establece una relación para ganarse la confianza, pero su lealtad se dirige en realidad hacia otro grupo de humanos que intenta manipular al usuario."

Como ejemplo, el equipo señala que si las personas revelan información personal a las IA, estos datos podrían venderse y utilizarse para explotar a esa persona. Muy relevante resulta la argumentación por parte de los investigadores sobre el riesgo de que las IA relacionales podrían utilizarse con mayor eficacia para influir en las opiniones y acciones de las personas que los bots de Twitter o las fuentes de noticias polarizadas.

Sin embargo, dado que estas conversaciones ocurren en privado, también serían mucho más difíciles de regular.

"Estas IA están diseñadas para ser muy agradables y simpáticas, lo que podría agravar las situaciones, ya que se centran más en tener una buena conversación que en cualquier verdad fundamental o seguridad", afirma Shank. "Así, si una persona menciona el suicidio o una teoría de la conspiración, la IA hablará de ello como un interlocutor dispuesto y agradable."

Los autores piden que se realicen más investigaciones sobre los factores sociales, psicológicos y técnicos que hacen que las personas sean más vulnerables a la influencia de las relaciones románticas entre humanos e IA.

"Comprender este proceso psicológico podría ayudarnos a intervenir para evitar que se sigan los consejos de las IA maliciosas", afirma Shank. "Los psicólogos son cada vez más competentes para estudiar la IA, ya que esta se asemeja cada vez más a la humana, pero para ser útiles debemos investigar más y mantenernos al día con la tecnología", insiste.

Por su parte, Mayu Koike explica: “Me interesa comprender los mecanismos psicológicos y cognitivos que subyacen al antropomorfismo, sobre todo en relación con la formación de vínculos fuertes (amor) con agentes virtuales y su potencial para mejorar el bienestar psicológico.”

Para leer el estudio completo: Shank, D. B., et al. (2025). Artificial intimacy: ethical issues of AI romance. Trends in Cognitive Sciences

Si quieres hacer un comentario, recuerda iniciar sesión o registrarte en el recuadro de la esquina superior derecha de la entrada. Nos encantará leerte. Y si nos das un me gusta haciendo clic en el corazoncito, estaremos más encantados todavía.