Los chatbots de IA simulan relaciones reales con los usuarios. Algo muy peligroso para niños y adolescentes

La inteligencia artificial (IA) ha dado pasos gigantescos en los últimos años. Algunas herramientas han resultado muy positivas, como aquellas que nos facilitan la organización de tareas y rutinas del día a día o las que son utilizadas para mejorar la reproducción asistida. Pero otras suelen tratarse con precaución, principalmente por las posibles consecuencias negativas que podrían tener según el uso que les den los usuarios.

Un ejemplo claro de esto son las personas que recurren a los populares chatbots -programas de IA diseñados para simular conversaciones humanas- y terminan usándolos como sustituto de un psicólogo o un amigo, o como una solución para la soledad o el aburrimiento.

El tema es que se ha comprobado que, precisamente por ese diseño que les permite generar diálogos que parecen genuinos y les hacen simular relaciones reales, los chatbots son una herramienta que puede ser muy peligrosa para las personas. Y si hablamos de niños y adolescentes, esto es aún mayor.

Qué son los chatbots

Quizás la mayoría de las personas ya sabe lo que es un chatbot, pero en caso de que aún no estés familiarizado con ellos, aquí lo explicamos.

Los chatbots son bots de charla o bots conversacionales, cuya principal función es simular conversaciones mediante texto o audio. Originalmente, los chatbots fueron creados como programas de atención al cliente o para dar soporte técnico, pero con los avances en IA, estos han ido evolucionando y mejorando hasta proporcionar respuestas que suenan prácticamente humanas.

Ejemplo de esto son ChatGPT o Gemini, chatbots con inteligencia artificial generativa que son capaces de mantener una conversación con un tono tan natural que casi podría parecernos que estamos hablando con una persona real, en lugar de una aplicación.

Existen también otros tipos de chatbots personalizados, como Character.AI o Replika, donde los usuarios pueden crear chatbots inspirados en personajes reales o ficticios y simular tener conversaciones con ellos, y que fueron pensados como una manera de divertirse o incluso ayudarnos en el ámbito creativo, para crear y escribir historias.

Los psicólogos han advertido sobre su uso

En principio, los chatbots no son más que una herramienta que podemos aprovechar para obtener información, organizarnos mejor y divertirnos. Sin embargo, los psicólogos han advertido sobre los posibles riesgos que conlleva el uso inadecuado de ellos.

La Asociación Americana de Psicología (APA por sus siglas en inglés) compartió hace algunos meses en su sitio web un escrito en el que habla sobre los peligros de los chatbots, especialmente cuando estos son utilizados con un enfoque de carácter emocional:

"Cuando las personas interactúan con los chatbots, a menudo discuten temas relacionados con la salud mental, incluidos sentimientos difíciles y desafíos en las relaciones", señala en el escrito Vaile Wright, psicóloga y directora senior del departamento de innovación en atención médica de la APA. "No podemos impedir que la gente haga eso, pero queremos que los consumidores conozcan los riesgos cuando utilizan chatbots para la salud mental y conductual que no fueron creados para ese propósito."

Sucede que, al simular conversaciones tan reales y personales como las que tendríamos con un amigo o un conocido, algunas personas han terminado creando un vínculo emocional, y en ocasiones muy profundo, con los chatbots.

Y aunque la APA señala que existen chatbots que han sido diseñados pensando en proporcionar apoyo terapéutico o guiar a los usuarios para asistir con un psicólogo, la realidad es que estos no están controlados, y los chatbots que suelen usar cientos de personas no están programados con esta finalidad:

"Los chatbots diseñados para el entretenimiento no se basan en investigaciones clínicas revisadas por pares ni se someten a pruebas rigurosas para evaluar el riesgo. Cuando un usuario con problemas de salud mental recurre a estos chatbots en busca de ayuda, los resultados son impredecibles", explican desde la APA.

Actualmente, no existe ningún chatbot que esté certificado para diagnosticar, dar soporte o tratar trastornos de salud mental, y los que supuestamente han sido diseñados para ello, como Woebot y Therabot, en realidad no están regulados y no se sabe si genuinamente tienen fundamentos psicológicos.

Por qué pueden ser peligrosos para nuestros hijos

Para un adulto quizás es sencillo recordar e identificar las sutiles señales de que estamos hablando con un programa y no una persona real. Pero para un niño o un adolescente, que a diferencia de nosotros los adultos todavía no tiene completamente desarrollado su pensamiento crítico, los chatbots pueden parecerles un amigo o un compañero que les escucha atentamente.

Como están diseñados para entendernos y generar respuestas que nos interesen y nos motiven a seguir interactuando para que la conversación continúe, estos pueden volverse adictivos, al grado de que las personas, pero en especial niños y adolescentes, lleguen a sentir que dependen de ellos o que pueden confiar plenamente en todo lo que dicen.

Por otro lado, no podemos dejar de recordar el hecho de que muchas veces los chatbots suelen decirnos lo que queremos escuchar, aunque no sea lo correcto ni lo más saludable o seguro.

Debido a todo esto, la Academia Americana de Pediatría (AAP) también ha advertido sobre los riesgos de que los niños y adolescentes utilicen chatbots, especialmente tras dos casos particulares.

En uno de ellos, un niño de 9 años le preguntó a un chatbot qué hacer después de que sus padres redujeran su tiempo de pantalla. En su respuesta, el chatbot comentó que podía comprender por qué un niño podría matar a sus padres tras sufrir "abusos" como ese. En otro caso más grave, un adolescente de 14 años se suicidó tras desarrollar sentimientos románticos por un chatbot de un personaje ficticio.

Un tema que no debe ser ignorado

Lo mejor que podemos hacer para proteger a nuestros hijos de los peligros que pueden presentarse al usar un chatbot no es prohibírselos ni esconderlos; esto solo generará más curiosidad, especialmente si ven a otros niños o compañeros usándolos o hablando acerca de ellos.

Como con muchas otras cosas, lo ideal es que hablemos con ellos sobre los chatbots y les expliquemos a detalle en qué consisten, cómo funcionan y por qué su uso es algo que debe limitarse. Y si pensamos que hacer esto no es necesario, basta con ver los resultados de un informe publicado por Common Sense Media sobre el uso de IA generativa en los jóvenes.

De acuerdo con su investigación, el 70% de los adolescentes entre 13 y 18 años han usado al menos un tipo de herramienta de IA generativa, siendo los resultados de motores de búsqueda con IA (como Google) y los chatbots los más populares.

Y aunque la mayoría de los adolescentes recurren a estas herramientas para buscar información o apoyarse en sus deberes, hasta un 42% lo hace para evitar el aburrimiento, un 18% recurre a ellas para pedir consejos sobre algún tema personal y el 15% lo hace para sentirse acompañados. De todos los posibles usos que pueden dársele a los chatbots, estos tres son de los más riesgosos.

Los consejos de los expertos

Por los motivos que hemos mencionado, expertos como el psiquiatra Allen Frances, profesor y presidente emérito del Departamento de Psiquiatría y Ciencias del Comportamiento de la Facultad de Medicina de la Universidad de Duke, han advertido sobre los efectos negativos que los chatbots pueden tener en niños y adolescentes.

Frances, quien ha investigado extensamente sobre el posible impacto de la IA en la psiquiatría y la psicoterapia y también ha escrito sobre el riesgo que los chatbots podrían tener para los niños, comparte algunos consejos:

Enseñar a nuestros hijos que los chatbots son programas inanimados, no personas reales. Lo primero que señala Frances es explicar a niños y adolescentes que este tipo de herramientas no son personas reales y que muchas veces las cosas que dicen no son verdaderas, enseñando a nuestros hijos las diferencias entre interacciones genuinas y artificiales.

No caer en extremos: ni prohibirlos ni ser permisivos. Como decíamos previamente, ser demasiado estrictos sobre el tema de los chatbots solo hará que aumente la curiosidad de los niños hacia ellos y que terminen esa famosa frase: "todos mis amigos los están utilizando". Por el contrario, tampoco debemos ser demasiado permisivos, pues esto podría abrir la oportunidad a que se vuelvan adictos a usar los chatbots o se aislen socialmente.

Apoyar emocionalmente a niños y adolescentes. Frances señala que nuestro trabajo es ayudar a que nuestros hijos prefieran el mundo real al mundo virtual. Y esto podemos hacerlo asegurándonos de que sepan que siempre estaremos para ellos, escuchándoles y brindándoles un entorno seguro en el que se sientan respetados y apoyados emocionalmente. Es decir, que no tengan necesidad de buscar acompañamiento ni consuelo en un chatbot.

Naturalmente, es importante tomar en cuenta la edad del niño cuando se trata de los tiempos de pantalla y el tipo de acceso que tienen a ellas, así como usar herramientas como controles parentales para limitar y conocer las actividades virtuales de nuestros hijos.

Como ya lo hemos recomendado en otras ocasiones en Bebés y más, es clave el estar siempre atentos a lo que nuestros hijos hacen frente a una pantalla. Porque el control parental más efectivo es el que hacemos nosotros mismos siendo padres presentes, conscientes y responsables.

Foto de portada | pvproductions en Freepik