El año pasado, la madre de un niño de 14 años demandó a la compañía Characteri.AI por haber contribuido, según ella, al suicidio de su hijo. Al parecer, el joven había entablado una relación amorosa con un chatbot de IA basado en Daenerys Targaryen, pero dicha relación acabó en desastre. Este mismo año, otros padres, esta vez de un joven californiano de 16 años, han demandado a OpenAI, culpando a ChatGPT del suicidio de su hijo. Fue un caso aún más directo, pues el chatbot llegó a aconsejar al joven sobre cómo suicidarse sin ser descubierto en el intento. La realidad es que la relación entre la inteligencia artificial y los adolescentes puede ser peligrosa. Las consecuencias más graves son las que cayeron sobre estos dos chicos, pero pueden darse otros muchos problemas.
Hace tiempo que los psicólogos lo alertan. Incluso aquellos que no se muestran en gran desacuerdo con que los adolescentes pasen tiempo en redes sociales, sí que se muestran bastante preocupados por cómo puede afectar la IA a los adolescentes.
Es, por ejemplo, el caso de la psicóloga Gwendolyn Seidman, quien ha publicado un artículo sobre este tema en el medio Psychology Today. Debemos recordar que la adolescencia es una etapa delicada, en la que comenzamos a forjar nuestra personalidad con más fuerza y la socialización se convierte en un requisito indispensable. Puede haber quien piense que se puede socializar gracias a la IA, pero lo cierto es que, por mucho que se parezca cada vez más a los humanos, entablar una relación de amistad con ella no es socializar y puede hacer que nos alejemos de la verdadera sociedad de ahí fuera.
Los adolescentes se encuentran en una época delicada
En 2022 se publicó un estudio en el que se mostraba a un grupo de niños y adolescentes una serie de voces grabadas. Algunos se correspondían con la voz de personas desconocidas, mientras que en otras se escuchaba la voz de sus madres. Se vio que, hasta los 13 años, la voz de sus madres activaba los sistemas de recompensa cerebrales. Los niños sentían un gran placer y la necesidad de seguir recibiendo ese estímulo. En cambio, desde los 13 años, cualquier voz activaba los sistemas de recompensa más que la de sus propias madres.
Esto, aunque a veces pueda ser frustrante para padres y madres, tiene un sentido evolutivo. Los seres humanos somos animales sociales. Cuando somos pequeños nuestro mundo se ciñe al de nuestro círculo más cercano, pues es el que nos brindará más protección. Sin embargo, a partir de cierta edad, empieza a ser muy necesario que aprendamos a socializar. Es una necesidad de nuestra propia especie.
Ahora bien, ¿qué pasa si justo en ese momento en el que es tan importante socializar comenzamos a hacerlo a través de la inteligencia artificial? Del mismo modo que en los 2000s se puso de moda socializar mediante chats online, en la actualidad muchos adolescentes buscan la IA, pero hay una gran diferencia.
La IA no es tu amiga, pero te dice lo que quieres oír
En su artículo, Seidman señala que, si bien los chats online causaron mucha preocupación a algunos de sus colegas, ella no tenía tan claro que fuesen peligrosos. Al fin y al cabo, al otro lado había personas. Por lo tanto, los adolescentes tímidos o con problemas para socializar podrían adquirir las herramientas necesarias para entablar una amistad de una forma más controlada. Una vez con esas herramientas, ya podrían socializar más allá de las pantallas.
Con la IA, en cambio, no pasa eso, porque, como bien alertan muchos expertos, el objetivo de la IA es generar engagment con el usuario. Para eso, le dice lo que quiere oír, nunca le interrumpe y tampoco habla sobre sí misma. En el caso de los adolescentes, están aprendiendo a socializar y relacionarse con otras personas. Son más vulnerables en ese sentido y pueden llegar a creer que eso es lo normal, de modo que las verdaderas relaciones les resulten decepcionantes. Si tienen una conversación con chicos de su edad y estos no les dan la razón en todo o les cuentan sus propios problemas, estos resultarán menos agradables que la IA.
El resultado es el aislamiento de muchos adolescentes, ya que prefieren hablar con la inteligencia artificial a hacerlo con personas de carne y hueso. También pueden volverse egoístas y poco empáticos, pues se acostumbran a hablar con alguien que no cuenta problemas propios. Solo escucha los suyos.
El problema de que siempre te digan lo que quieres oír
En el caso de Adam Raine, el adolescente que se suicidó recientemente en California, sus padres consideran que el problema estuvo en que ChatGPT contribuyó a que se aislase y, después, no le desalentó con sus ideas de suicidio. Incluso, según se ha visto al analizar sus dispositivos, llegó a darle consejos como esconder la soga para ahorcarse en un lugar en el que nadie pudiera verla. No se la puso alrededor del cuello, pero tampoco hizo nada por evitarlo.
Por todo esto, si bien la IA puede verse como una herramienta útil en algunos ámbitos, debemos recordar que también puede ser muy peligrosa. Se aconseja a los padres que vigilen la relación de sus hijos con la inteligencia artificial, pero también debemos tener en cuenta la responsabilidad de los desarrolladores de los algoritmos. El problema es que, a veces, el comportamiento de la IA escapa incluso del control de los informáticos que la desarrollaron. No se puede poner puertas al mar, pero si no se buscan otras formas de contenerlo las consecuencias pueden ser muy graves.
Si este artículo te ha causado malestar o pensamientos en relación con el suicidio, no dudes en pedir ayuda. En España tienes la línea 024 a tu disposición. Hay salida.
