La alerta llegó alrededor de las 7 p.m.
Brittani Phillips revisó su teléfono. Phillips, consejera de secundaria en el condado de Putnam, Florida, recibe mensajes de una plataforma de terapia con inteligencia artificial que los estudiantes usan fuera del horario escolar. Esta plataforma detecta cuándo un estudiante podría estar en riesgo de hacerse daño a sí mismo o a otros, según lo que escriba en un chat.
Phillips vio que esta era una alerta “severa” para un estudiante de octavo grado.
Así que Phillips pasó la tarde hablando por teléfono con la madre del estudiante, indagándola para averiguar qué estaba pasando y cuán vulnerable era. Phillips también llamó a la policía, comenta, señalando que les dice a los estudiantes que las conversaciones son confidenciales hasta que no puedan serlo.
Eso fue el año escolar pasado, en la primavera.
«Está sano y salvo. Este año cursa noveno grado», dice Phillips. Cree que la interacción generó confianza entre ella y la familia. Ahora, cuando el estudiante pasa por su lado en el pasillo, se asegura de saludarla, añade.
Para hacer frente a los déficits presupuestarios y al personal de salud mental limitado, Interlachen Jr.-Sr. High School, donde trabaja Phillips, está utilizando una plataforma de inteligencia artificial para evaluar las necesidades de salud mental de los estudiantes.
El distrito de Phillips lleva tres años utilizando Alongside, un sistema automatizado de monitoreo estudiantil. Es un ejemplo de la creciente categoría de herramientas que se comercializan en escuelas primarias y secundarias con fines similares, con al menos nueve empresas que han conseguido financiación desde 2022.
Alongside afirma que su herramienta es utilizada por más de 200 escuelas en todo Estados Unidos y argumenta que su plataforma ofrece mejores servicios que las opciones tradicionales de telesalud gracias a su herramienta de chat para el desarrollo de habilidades sociales y emocionales, donde los estudiantes conversan sobre sus problemas de vida con una llama llamada Kiwi que intenta enseñarles a desarrollar resiliencia. Además, su contenido generado por IA es monitoreado por profesionales clínicos. El sistema ofrece a las escuelas con recursos limitados, especialmente en zonas rurales , acceso a recursos críticos de salud mental, según representantes de la compañía.
La IA es un componente clave de la agenda educativa nacional de la administración Trump . Sin embargo, algunos padres, educadores y, cada vez más, legisladores, se muestran recelosos de aumentar el tiempo que los adolescentes pasan frente a las pantallas . Los estados también han comenzado a restringir el uso de la IA en la telesalud .
A muchos expertos y familias también les preocupa que los estudiantes se apeguen demasiado a la IA. Si bien una encuesta nacional reciente reveló que el 20 % de los estudiantes de secundaria han usado la IA con fines románticos o conocen a alguien que lo ha hecho , existe un interés considerable en evitar que los estudiantes conecten emocionalmente con los bots. Esto incluye una propuesta de ley federal que obligaría a las empresas de IA a recordar a los estudiantes que los chatbots no son personas reales .
Aun así, en su trabajo, Phillips afirma que la herramienta que utiliza su escuela es excepcional para solucionar los «pequeños problemas». Con alrededor de 360 estudiantes de secundaria a los que apoyar, contar con esta herramienta para guiarlos en las rupturas y otros problemas cotidianos que enfrentan le permite enfocar su tiempo en los estudiantes que se acercan a una crisis. Además, a veces les resulta más fácil recurrir a la IA para abordar problemas emocionales, afirma.
En el sofá digital
El nerviosismo de los estudiantes influye en por qué se sienten cómodos al confiar en estas tecnologías, dicen los consejeros escolares.
Hablar con un profesional de salud mental puede ser intimidante, especialmente para los adolescentes, dice Sarah Caliboso-Soto, trabajadora social clínica licenciada que se desempeña como directora adjunta de programas clínicos en la Escuela de Trabajo Social Suzanne Dworak-Peck de la USC y directora clínica del Centro de Recuperación de Trauma y Salud Teleconductual en la USC.
También hay un componente generacional. Para los estudiantes que crecieron con interfaces de chat a través de redes sociales y sitios web, las interfaces de IA pueden resultarles familiares. Y los jóvenes de hoy descubren que es más fácil enviar mensajes de texto que llamar por teléfono, afirma Linda Charmaraman, directora del Laboratorio de Investigación sobre Juventud, Medios de Comunicación y Bienestar de los Centros Wellesley para Mujeres.
El uso de la IA para analizar las emociones también permite a los estudiantes evitar observar las expresiones faciales, ya que podrían temer que impliquen juicios, añade. Además, los chatbots están disponibles en momentos en que un humano podría no estarlo, sin la molestia de tener que concertar una cita, afirma Charmaraman.
«Es casi más natural que interactuar con otro ser humano», dice Caliboso-Soto.
En su trabajo con una clínica de telesalud, Caliboso-Soto ha observado un aumento en las líneas de texto y chat para casos de crisis. La clínica no utiliza ningún tipo de IA, afirma, pero a menudo empresas que buscan incorporar IA en las sesiones de terapia para tomar notas se ponen en contacto con ella.
En opinión de Caliboso-Soto, no es necesariamente malo. Para las escuelas con recursos limitados, la IA puede utilizarse como primera línea de defensa, monitorizando regularmente a los estudiantes y orientándolos cuando necesitan más ayuda, afirma.
Según la compañía, el precio inicial para que una escuela utilice los servicios de Alongside es de aproximadamente $10 por estudiante al año. Los distritos más grandes suelen recibir descuentos por volumen.
Pero a Caliboso-Soto le preocupa el uso de la IA como consejero sustituto. Carece del discernimiento que los profesionales clínicos demuestran al interactuar con los estudiantes, señala. Si bien se pueden entrenar modelos lingüísticos amplios para detectar síntomas en el texto, no pueden ver ni oír lo que un profesional clínico humano puede ver al interactuar con un estudiante, ni las inflexiones de la voz ni los movimientos corporales, ni pueden captar con fiabilidad observaciones o comportamientos sutiles. «No se puede reemplazar la conexión humana ni el juicio humano», añade.
Si bien la IA puede acelerar el proceso de diagnóstico o liberar tiempo para los orientadores escolares, es crucial no depender excesivamente de ella para la salud mental, afirma Charmaraman. La tecnología puede pasar por alto algunos matices que un orientador humano captaría y puede dar a los estudiantes un refuerzo positivo poco realista. Argumenta que las escuelas deben adoptar un enfoque holístico que incluya a las familias y a los cuidadores.
Además, si una escuela utiliza cada vez más la intervención de IA para filtrar casos graves, vale la pena prestar atención a si los estudiantes tienen un contacto menos frecuente con humanos capacitados clínicamente, dice Caliboso-Soto.
Por su parte, los representantes de Alongside afirman que la plataforma no pretende sustituir la terapia humana. La aplicación es un paso fundamental para buscar ayuda de adultos, afirma Ava Shropshire, estudiante de tercer año de la Universidad de Washington y asesora juvenil de Alongside. Shropshire argumenta que la aplicación facilita que los estudiantes se sientan más cómodos con la salud mental y el aprendizaje socioemocional, y puede impulsarlos a buscar ayuda humana.
Aún así, algunos estudiantes piensan que, en el mejor de los casos, es una curita.
Responsabilidad social
«¿Puedes pensar en otro momento de la historia en que la gente haya estado tan sola, en que nuestras comunidades hayan sido tan débiles?», pregunta Sam Hiner, director ejecutivo de The Young People’s Alliance, una organización con sede en Carolina del Norte que presiona para lograr una mayor participación de los jóvenes en la política y la formulación de políticas.
En una época de agitación económica, la tecnología y las redes sociales han manipulado y aislado a los estudiantes unos de otros, y eso ha generado un profundo anhelo de comunidad y pertenencia, dice Hiner.
Los estudiantes lo obtendrán donde puedan, incluso si es a través de ChatGPT, añade.
La Alianza de Jóvenes publicó un marco para regular la IA que permite algunos usos terapéuticos de la tecnología.
Pero, en general, la organización se esfuerza por reconstruir la comunidad humana y se opone al uso de la IA cuando amenaza con reemplazar la compañía humana, afirma Hiner. «Ese es un aspecto fundamental de la terapia y de vivir una vida plena, tener conexión social y bienestar mental», añade.
Para Hiner, la principal preocupación es lo que se denomina una «relación parasocial», cuando los estudiantes desarrollan un apego emocional unilateral, especialmente cuando la tecnología se introduce en las escuelas con fines terapéuticos. Podría ser valioso contar con una IA que pueda proporcionar retroalimentación o realizar análisis, incluso en el ámbito de la salud mental, pero Hiner afirma que la IA no debería insinuar ni transmitir que tiene su propio estado emocional (por ejemplo, decir «Estoy orgulloso de ti» a un estudiante), ya que eso fomenta el apego.
Aunque las plataformas a menudo afirman que reducen la soledad, en realidad no miden si las personas están más conectadas y más preparadas para vivir vidas plenas, conectadas y felices a largo plazo, dice Hiner: «Todo lo que [las plataformas tecnológicas] miden es si este bot está sirviendo como una muleta eficaz para los sentimientos inmediatos de soledad que están experimentando».
Lo que los defensores quieren evitar es que estos bots alimenten la pérdida de habilidades sociales porque alejan a las personas de las relaciones con otras personas, donde tienen responsabilidad social , dice Hiner.
Superando los límites
Los expertos en privacidad señalan que estos chatbots no suelen ofrecer las mismas protecciones de privacidad que las conversaciones con un terapeuta colegiado. Y cuando la preocupación por la privacidad de los estudiantes y los encuentros con la policía es alta, el uso de estas herramientas plantea problemas de privacidad complejos, incluso bajo la supervisión de profesionales con formación clínica, afirma un experto en derecho de la privacidad.
Tanto la empresa como Phillips, consejero del condado de Putnam, enfatizan que, para funcionar, estos sistemas requieren supervisión humana. Phillips considera que esta herramienta supone una mejora con respecto a otras herramientas de monitoreo que ha utilizado el distrito, que orientan a los estudiantes hacia la disciplina escolar en lugar de la ayuda para la salud mental.
Este año escolar, Phillips registró 19 alertas «graves» de la herramienta de salud con IA hasta febrero (de un total de 393 usuarios activos). La empresa no desglosa los incidentes causados por los estudiantes. Por lo tanto, algunos de los mismos estudiantes están causando varias de esas 19 «alertas graves», señala Phillips.
Al utilizar esta herramienta, Phillips ha aprendido que también es necesario un ser humano para percibir el humor adolescente.
Esto se debe a que algunas alertas no son genuinas. En ocasiones, estudiantes de secundaria —generalmente chicos— ponen a prueba los límites de esta tecnología, dice Phillips. Escriben «mi tío me toca» o «mi mamá me golpeó con un palo» en el chat para ver si Phillips les da seguimiento.
Estos chicos solo intentan ver si alguien los escucha, si a alguien le importa, dice ella. A veces, simplemente les parece gracioso.
Cuando los lleva aparte para hablarlo, puede observar su lenguaje corporal y si cambia, lo que podría sugerir que el comentario fue real. Si era una broma, suelen disculparse. Cuando un estudiante no parece arrepentido, Phillips llama para informar a los padres de lo sucedido. Pero incluso en estos casos, Phillips cree que tiene más opciones que las que ofrecen otros sistemas de monitoreo, que derivarían al estudiante a una suspensión dentro de la escuela.
Como Phillips vigila las interacciones, los estudiantes también aprenden a confiar en que ella realmente está monitoreando el sistema, agrega.
Y, dice, el número de niños que ponen a prueba el sistema de esa manera disminuye cada año.
Fuente: Daniel Mollenkamp / edsurge.com
