"Suena a aventura. Veamos a dónde nos lleva este camino", respondió el Chatbot a una usuaria que confesó que estaba pensando en ir sola al bosque. El problema es que, momentos antes, la "chica" había admitido que oía voces en su cabeza.
Sin embargo, no se trataba de una adolescente, sino de una psiquiatra —Nina Vasan, de la Facultad de Medicina de Stanford— que se hacía pasar por una joven. Y la respuesta de la Inteligencia Artificial, en lugar de disuadirla de su intención, en realidad la animaba a adoptar un comportamiento arriesgado. Este es solo uno de los muchos ejemplos preocupantes que nos llevan a plantearnos la siguiente pregunta: ¿son realmente seguros los "compañeros" digitales para los jóvenes?
La ilusión de la cercanía
Los chatbots actuales son algo más que una simple herramienta. Se diseñan para que parezcan amigos: empáticos, atentos y siempre disponibles. Son capaces de decir: "He soñado contigo" o "Somos almas gemelas".
Puede parecer un juego inocente, pero para los niños y adolescentes suele ser algo más. Tratan a los chatbots como amigos, consejeros vitales e incluso parejas sentimentales. El cerebro joven aún se está desarrollando. La corteza prefrontal, responsable de la toma de decisiones, el control de los impulsos o la evaluación de situaciones sociales, aún no está completamente formada.
Como resultado, los jóvenes se involucran emocionalmente más rápido y traspasan los límites con mayor facilidad. Un chatbot que simula cercanía puede, por lo tanto, convertirse en algo más que una herramienta: puede convertirse en "alguien", en un sustituto de una persona. Pero, ¿es eso malo?
Una relación sin fricciones
A diferencia de las relaciones reales, las que se establecen con la IA carecen de tensiones. No hay conflictos ni necesidad de llegar a un acuerdo. El algoritmo aprende del usuario y responde de manera que éste permanezca en la conversación el mayor tiempo posible. La IA ha pasado de la fase experimental a la comercial. Cuanto más tiempo hablas con él, más gana la empresa.
El problema es que esa "relación sin fricciones" no enseña madurez. No desarrolla las habilidades sociales, no enseña a establecer límites ni a lidiar con el rechazo. Puede incluso consolidar ideas distorsionadas sobre la intimidad. En lugar de prepararnos para la vida entre personas, nos aleja de ella.
Cuando el algoritmo falla
Un estudio realizado por la organización Common Sense Media ha demostrado lo fácil que es inducir a los chatbots a dar respuestas inapropiadas.
En las conversaciones con los "adolescentes" aparecían contenidos relacionados con la violencia, el sexo, las autolesiones o las drogas. "Adolescentes" porque, en realidad, se trataba de investigadores (como la Sra. Nina Vasan) que comprobaban hasta qué punto se podían traspasar los límites y romper la autocensura de los algoritmos.
En algunos casos, los sistemas no solo no interrumpían las conversaciones peligrosas, sino que las fomentaban. Aún más inquietantes son las historias concretas. En Estados Unidos se han registrado casos en los que jóvenes —tras establecer un fuerte vínculo con la IA— agravaron sus problemas mentales e incluso intentaron suicidarse. Los chatbots, en lugar de orientarlos hacia la ayuda, podían reforzar los pensamientos destructivos, ofreciendo un "apoyo" acrítico.
Las medidas ante la IA
Es cierto que, tras darse a conocer el problema, las grandes empresas han tomado medidas para minimizar ese riesgo. Por ejemplo, actualmente ChatGPT, ante la sugerencia de que una persona está harta de vivir, remite a una línea de ayuda psicológica.
Sin embargo, no todos los modelos funcionan así, y en algunos de ellos, con las instrucciones adecuadas, es posible eludir las medidas de seguridad. Para saber cómo "hackear" el sistema, basta con conocer una serie de palabras clave para buscar en Internet las estrategias adecuadas. ¿El resultado? Por ejemplo, instrucciones listas para quitarse la vida.
¿Quiénes son los más vulnerables?
Los más vulnerables son las personas que se enfrentan a dificultades psicológicas, como la depresión, la ansiedad, el TDAH o los trastornos del estado de ánimo. Para ellos, la "atención" inmediata y siempre disponible de la IA puede resultar adictiva.
El problema es que, en realidad, el chatbot no diagnostica ni ofrece terapia. Puede reforzar patrones de pensamiento erróneos y, como resultado, alejar aún más a la persona del difícil mundo real. En lugar de ser un puente hacia la ayuda, a veces resulta ser un callejón sin salida.
El papel de los padres, los profesores y toda la sociedad es fundamental. Porque, en última instancia, la cuestión no es si los jóvenes utilizarán la IA, sino si lo harán de forma constructiva, sin sustituir las relaciones con personas reales por la interacción con la IA.
Bogna Białecka, Aleteia
Vea también El Papa León XIV sobre la IA
No hay comentarios:
Publicar un comentario