Futurism

En nuestro mundo cada vez más interconectado, donde la tecnología se inmiscuye en cada rincón de nuestras vidas, es natural que busquemos soluciones a nuestros problemas, incluso los más íntimos, en el espacio digital. Con la aparición de modelos de inteligencia artificial como ChatGPT, que prometen respuestas instantáneas y ayuda ilimitada, algunos han recurrido a ellos para buscar consejo en sus relaciones sentimentales. Pero, ¿puede una máquina comprender las complejidades de las emociones humanas o ofrecer consejos genuinos en asuntos que exigen el más alto grado de sensibilidad y empatía?

Sammi Caramela, columnista de la sección de "Consejos" de la revista Vice, confesó que desconocía por completo el fenómeno del uso de ChatGPT como terapeuta hasta que alguien le escribió un correo electrónico al respecto a principios de este año.

El pasado febrero, un hombre anónimo le contó a la escritora que su novia usaba asiduamente el chatbot para pedir consejos sobre citas, llegando incluso a citar lo que el robot le había dicho durante sus discusiones. La revelación dejó a Caramela tan "conmocionada" que casi se atraganta con su café. Sorprendentemente, el hombre que buscaba consejo no estaba nada perturbado por la situación, e incluso afirmó que el uso que su novia hacía de ChatGPT le parecía fascinante.

En su artículo más reciente, la columnista escribe: «Me quedé un tanto estupefacta con esta confesión. No tenía ni idea de que la gente recurriera realmente a la IA para pedir consejos sentimentales. Pero cuanto más exploré el tema, más me di cuenta de lo común que era buscar ayuda de la IA, especialmente en una era en la que la terapia psicológica se ha convertido en un lujo caro».

Riesgos psicológicos probados

Posteriormente, Sammi Caramela descubrió que una amiga suya también utilizaba el chatbot de OpenAI para fines similares. Esta amiga le planteaba sus problemas de pareja a ChatGPT, con la esperanza de obtener opiniones o comentarios que parecieran "neutrales y objetivos", es decir, libres de los sesgos personales o las emociones que podrían influir en el consejo humano.

Sin embargo, esta amiga acabó dándose cuenta de que ChatGPT no era imparcial en absoluto. Muy al contrario, "parecía validar su experiencia de forma excesiva, y quizás incluso peligrosa".

Caramela también señaló que se habían planteado preguntas similares en el foro r/ChatGPT de Reddit. El consenso general en este foro era claro: el chatbot no solo es como un "sí-hombre" (yes-man), sino que su tendencia a validar las opiniones de los usuarios puede resultar peligrosa para las personas que sufren problemas de salud mental.

El caso del trastorno obsesivo-compulsivo

La periodista, que a menudo habla abierta y honestamente sobre sus propias luchas contra el trastorno obsesivo-compulsivo (TOC), ha puesto de manifiesto las consecuencias potencialmente desastrosas de utilizar ChatGPT para obtener consejos en las relaciones. Si no mencionara claramente cómo su TOC afecta a sus relaciones, los consejos que recibiría de la IA podrían ser "inútiles, o incluso perjudiciales" para su vida sentimental. Esto subraya la gravedad de obtener consultas personales de sistemas de IA que carecen de una comprensión profunda de los contextos individuales y los complejos trastornos psicológicos.

Al profundizar en su investigación, Sammi Caramela encontró numerosos debates en los subreddits dedicados al TOC sobre el chatbot. En el foro específicamente dedicado al TOC de relaciones (ROCD), un usuario incluso confesó que el chatbot le había aconsejado romper con su pareja.

Otro usuario, participando en las discusiones sobre r/ROCD, afirmó que programas como ChatGPT podían "acelerar el ciclo del TOC". Explicó que esto ocurría porque estas herramientas permitían a los usuarios "hacer una pregunta tras otra durante horas en un intento desesperado de obtener cierta certeza", lo que no hacía más que agravar el problema.

Al igual que muchos profesionales humanos mal formados, los chatbots carecen de la delicadeza y la sensibilidad necesarias para cualquier contexto terapéutico. Por lo tanto, e independientemente de las afirmaciones de marketing de OpenAI, ChatGPT no puede ser realmente empático. Si tu "terapeuta" virtual nunca puede establecer una conexión humana auténtica, ¿cómo podría tener éxito al ofrecer consejos sobre un tema tan intrínsecamente humano como el amor?

Fuente: Futurism