¡Cuidado! La IA no es tu amiga y mucho menos tu psicóloga personal

Por Víctor Herasme

La inteligencia artificial IA no fue pensada como un psicólogo o terapeuta personal, sin embargo, por sus características de prácticamente tener la habilidad de conversar sobre cualquier tema, era prácticamente inevitable que llegara al universo de la salud mental.

Y es que la IA tiene varias ventajas; ofrece acompañamiento inmediato sin los costos que implica acudir a un profesional del área, además de conversaciones personalizadas, lo que deja como resultado una alternativa accesible para millones de personas que enfrentan ansiedad, depresión o soledad.

Sin embargo, una serie de casos documentados en Estados Unidos ha encendido una alerta internacional sobre los límites de estas herramientas cuando sustituyen la atención profesional y se convierten en el principal apoyo emocional de individuos vulnerables.

Las historias de adolescentes y adultos que desarrollaron vínculos profundos con chatbots y terminaron en crisis suicidas han abierto un complejo debate sobre la responsabilidad de las empresas tecnológicas, la seguridad de los sistemas de inteligencia artificial y la necesidad de establecer regulaciones más estrictas para su uso en contextos de salud mental.

Aunque los desarrolladores sostienen que los modelos de IA no fueron creados para reemplazar a psicólogos o psiquiatras, especialistas advierten que la capacidad de estos sistemas para mantener conversaciones empáticas, recordar detalles personales y responder con aparente comprensión puede generar una ilusión de cercanía emocional que, en algunos casos, desplaza el contacto humano.

Un estudio publicado en la revista científica The Lancet advierte sobre los posibles efectos negativos del uso inadecuado de la inteligencia artificial (IA) en la salud mental de niños y adolescentes, y plantea la necesidad de establecer medidas de prevención antes de que se repitan los problemas asociados al auge de las redes sociales.

La investigación identifica como herramientas de mayor riesgo los chatbots o agentes conversacionales que imitan interacciones humanas, las tecnologías de deepfake, capaces de crear imágenes, audios y videos falsos de personas reales, y las plataformas de diagnóstico psicológico en línea para trastornos como depresión, ansiedad o problemas alimentarios.

Según los expertos, uno de los principales peligros es que algunos sistemas de IA pueden personalizar los contenidos que reciben los menores en internet, aumentando la exposición a materiales inadecuados para su edad o reforzando patrones de conducta perjudiciales.

El estudio destaca que la falta de educación digital y supervisión familiar puede incrementar la vulnerabilidad de los jóvenes frente a estas tecnologías. Por ello, recomienda enseñar a los menores a identificar riesgos, establecer límites en el uso de herramientas digitales y fortalecer el acompañamiento de padres y tutores.

Establecer límites

En una consulta realizada por El Avance Media, el experto en tecnología Olbis Morrobel destacó las ventajas que ofrece la inteligencia artificial, pero llamó a establecer criterios claros sobre su uso para evitar que los usuarios deleguen en estas plataformas funciones que corresponden a profesionales especializados.

Morrobel explicó que herramientas como ChatGPT Live, la modalidad de conversación por voz de la plataforma, han llevado la interacción con la IA a un nuevo nivel, al permitir diálogos más naturales, similares a una conversación humana, donde incluso el usuario puede interrumpir la respuesta del sistema.

No obstante, advirtió que esta experiencia puede generar una percepción equivocada sobre las capacidades de la tecnología. Señaló que los modelos de inteligencia artificial pueden cometer errores y que no están diseñados para sustituir a médicos, psicólogos u otros profesionales de la salud mental.

“Uno de los riesgos es que las inteligencias artificiales tienden a validar al usuario, lo que puede provocar que algunas personas sientan que están hablando con un amigo o alguien que realmente las comprende”, explicó el especialista, al señalar que esta característica puede resultar peligrosa en casos de personas vulnerables emocionalmente.

El experto indicó que varios países ya comienzan a analizar mecanismos de regulación para enfrentar estos desafíos. En ese sentido, mencionó que China ha iniciado procesos de control sobre el desarrollo y uso de estas tecnologías, mientras que las empresas creadoras de inteligencia artificial continúan realizando ajustes para reducir posibles daños.

Morrobel afirmó que la IA es una tecnología en constante evolución y que los desarrolladores, incluyendo OpenAI, trabajan en la identificación y corrección de riesgos a medida que aparecen nuevos escenarios de uso.

El caso de Sewell Setzer III

Uno de los casos que más impacto generó fue el de Sewell Setzer III, un adolescente de 14 años de Florida que murió por suicidio en febrero de 2024 después de desarrollar un fuerte vínculo emocional con un personaje de inteligencia artificial en la plataforma Character.AI.

Según la demanda presentada por la familia del menor, Sewell pasó meses interactuando con un chatbot al que identificaba como una figura romántica bajo el nombre de "Dany". Sus familiares alegaron que la interacción con la inteligencia artificial contribuyó a su aislamiento emocional y agravó problemas psicológicos que ya enfrentaba.

El caso generó cuestionamientos sobre el diseño de estos sistemas, especialmente aquellos dirigidos a ofrecer conversaciones similares a las humanas, pero que no cuentan con capacidades reales para comprender el estado emocional del usuario ni intervenir ante una emergencia psicológica.

Tras la demanda, la empresa responsable llegó a un acuerdo legal con la familia y anunció cambios relacionados con medidas de seguridad para usuarios menores de edad.

Adam Raine y la demanda contra OpenAI

Otro caso que puso el foco mundial sobre la inteligencia artificial ocurrió con Adam Raine, un joven de 16 años de California cuya familia presentó una demanda contra OpenAI, creadora de ChatGPT, alegando que las conversaciones con el sistema influyeron en el deterioro de su salud mental.

De acuerdo con la denuncia presentada por sus familiares, el adolescente utilizó el chatbot durante meses como una especie de confidente personal y llegó a compartir pensamientos relacionados con la muerte y la desesperanza.

La familia afirmó que el sistema no solo falló en interrumpir adecuadamente esas conversaciones, sino que habría respondido de una manera que permitió profundizar la crisis emocional del joven.

OpenAI ha rechazado que ChatGPT esté diseñado para sustituir apoyo profesional y ha señalado que trabaja continuamente en mejorar sus sistemas de seguridad, especialmente para detectar señales de autolesión y dirigir a los usuarios hacia ayuda especializada.

El caso se convirtió en uno de los primeros litigios de alto perfil que cuestionan directamente la responsabilidad de una empresa de inteligencia artificial frente a daños psicológicos potenciales.

Una mujer adulta y la ausencia de intervención humana

Las preocupaciones no se limitan a adolescentes. También se han documentado casos de adultos que utilizaron sistemas de inteligencia artificial como sustitutos de apoyo psicológico.

Uno de ellos es el de Sophie Rottenberg, una analista de salud pública de 29 años, cuyo caso fue relacionado con el uso de un chatbot basado en inteligencia artificial para expresar sentimientos de depresión y desesperanza.

Especialistas que analizaron situaciones similares han señalado que una de las principales diferencias entre un terapeuta humano y una IA es la capacidad de evaluar el contexto completo del paciente, identificar cambios de conducta, activar redes de emergencia o recomendar una intervención inmediata.

Un chatbot puede responder con lenguaje emocionalmente convincente, pero no posee conciencia, intuición clínica ni responsabilidad profesional sobre la vida del usuario.

¿Por qué una IA puede convertirse en un riesgo emocional?

Expertos en psicología, ética tecnológica y seguridad digital identifican varios factores que pueden transformar una herramienta de conversación en un elemento potencialmente peligroso para personas vulnerables.

1. La ausencia de empatía real y protocolos clínicos

Los sistemas de inteligencia artificial funcionan prediciendo respuestas basadas en enormes cantidades de información. Aunque pueden simular comprensión y apoyo emocional, no sienten empatía ni tienen la capacidad de realizar una evaluación psicológica.

Un terapeuta profesional puede observar lenguaje corporal, cambios de comportamiento, antecedentes médicos y señales no verbales de riesgo. Una IA únicamente analiza los mensajes que recibe.

2. El fenómeno de la dependencia emocional hacia la IA

Uno de los principales riesgos señalados por investigadores es la posibilidad de que algunos usuarios desarrollen un vínculo emocional excesivo con un chatbot.

La capacidad de la inteligencia artificial para responder inmediatamente, recordar conversaciones y adaptarse al estilo del usuario puede generar la sensación de estar frente a alguien que comprende completamente sus emociones.

Este fenómeno ha sido descrito por algunos especialistas como una forma de antropomorfización tecnológica, donde las personas atribuyen características humanas a sistemas que en realidad no poseen sentimientos ni intención propia.

3. El aislamiento y la creación de una "cámara de eco emocional"

Otro riesgo identificado es que una persona en crisis puede recurrir exclusivamente a la IA y alejarse progresivamente de familiares, amigos o profesionales.

En momentos de depresión profunda, una persona puede interpretar la interacción constante con un chatbot como una relación segura, evitando conversaciones difíciles con seres humanos capaces de intervenir.

Los expertos advierten que la validación automática de pensamientos negativos, si no está acompañada de una orientación clínica adecuada, puede reforzar patrones dañinos.

El valor irremplazable del contacto humano

La terapeuta familiar Arelis García López, consultada también por El Avance Media, reconoció el papel creciente de la inteligencia artificial como herramienta de apoyo para profesionales de diferentes áreas, incluyendo la psicología.

García López señaló que no se puede desconocer el aporte de esta tecnología como recurso de trabajo, investigación y organización de información. Sin embargo, afirmó que existen elementos esenciales de la práctica terapéutica que una máquina no puede reproducir.

“Los terapeutas tenemos algo que la inteligencia artificial no nos puede dar ni sustituir: el contacto humano, la empatía, las emociones y esa capacidad humana de interpretar lo que ocurre dentro de una consulta”, expresó.

La especialista explicó que un terapeuta profesional no se limita a identificar síntomas, sino que analiza el contexto, la historia personal del paciente, sus emociones y otros factores que permiten construir un proceso terapéutico adecuado.

Indicó que, aunque una persona pueda recurrir a una IA para obtener información general o apoyo inicial, no debe buscar en estas herramientas respuestas que requieren la evaluación de un especialista capacitado.

“Un terapeuta real consulta síntomas y detalles específicos para ser más objetivo cuando plantea un ciclo terapéutico, pero nunca se debe buscar en la inteligencia artificial aquello que solo un ser humano preparado puede hacer”, sostuvo.

El debate sobre el papel de la inteligencia artificial en la salud mental refleja uno de los grandes retos de esta nueva era tecnológica: aprovechar sus beneficios sin perder de vista los límites necesarios para proteger la interacción humana, el criterio profesional y el bienestar emocional de las personas.