Los software de vigilancia escolar que usan muchas instituciones educativas en Estados Unidos para detectar potenciales suicidios han generado un debate sobre su eficiencia y los problemas éticos que acarrea la supervisión constante de los adolescentes
En un esfuerzo por prevenir el suicidio y las autolesiones entre los estudiantes, muchas instituciones educativas en Estados Unidos han comenzado a utilizar tecnologías de vigilancia escolar. Sin embargo, esta decisión ha generado revuelo por las implicaciones éticas que conlleva. La historia de Madi Cholka, una adolescente que se quitó la vida a los 17 años en Neosho, Missouri, ilustra tanto el potencial como los riesgos de esta vigilancia.
A los 15 años, Madi fue salvada de una sobredosis gracias a un software que monitorea lo que los estudiantes escriben en sus dispositivos escolares. Cuando envió un mensaje a una amiga expresando su intención de hacerse daño, el sistema alertó al personal escolar, que a su vez contactó a la policía. Aunque la intervención fue oportuna, Madi continuó luchando con problemas mentales y finalmente logró su cometido dos años después.
A miles de kilómetros de distancia, en Connecticut, una familia vivió una experiencia diferente. La policía llegó a su casa tras recibir una alerta sobre su hija de 17 años. Sin embargo, resultó ser una falsa alarma provocada por un poema antiguo. La visita dejó a la joven traumatizada.
Aunque el software puede detectar señales de advertencia, no siempre puede proporcionar el apoyo emocional necesario para ayudar a los estudiantes en crisis. Esto subraya la importancia de contar con un enfoque integral que incluya tanto tecnología como atención humana.
Monitoreo y prevención
Entre 2014 y 2018, el distrito escolar de Neosho registró ocho suicidios entre sus aproximadamente 5.000 estudiantes. Este trágico contexto impulsó a la administración a buscar soluciones tecnológicas que pudieran ayudar a identificar a los estudiantes en riesgo antes de que se produjeran tragedias. La adopción del software se basa en la premisa de que la detección temprana puede salvar vidas.
El software utilizado en Neosho y otras escuelas escanea los mensajes y documentos creados por los estudiantes en sus Chromebooks. Utiliza algoritmos para detectar palabras clave y frases relacionadas con el suicidio o autolesiones. Cuando se identifica un riesgo potencial, se envía una alerta al personal escolar, quienes pueden intervenir rápidamente. Esta intervención puede incluir la evaluación del estudiante por un consejero o, en casos más graves, la notificación a la policía.
Este tipo de tecnología se ha vuelto común en las aulas estadounidenses desde el aumento de las tasas de suicidio juvenil. Durante la pandemia, muchas escuelas comenzaron a enviar computadoras portátiles a casa con los estudiantes, lo que llevó a la implementación de herramientas que escanean el contenido escrito en busca de señales de autolesión. Empresas como GoGuardian y Lightspeed ofrecen estos sistemas que utilizan inteligencia artificial para detectar palabras clave relacionadas con el suicidio.
Preocupaciones
Cerca de la mitad de los estudiantes en Estados Unidos están sujetos a este tipo de vigilancia. Los detalles del monitoreo son comunicados a los padres al inicio del año escolar. Sin embargo, la precisión y efectividad del software son cuestionadas. Los datos sobre las alertas suelen estar en manos de las empresas tecnológicas, lo que dificulta evaluar sus beneficios o daños.
La implementación generalizada ha suscitado preocupaciones entre padres y defensores de derechos humanos. Muchos se preguntan si es apropiado vigilar constantemente las actividades en línea de los estudiantes y qué impacto puede tener esto en su bienestar emocional. La falta de transparencia sobre cómo se manejan estos datos sobre suicidio escolar también genera inquietudes sobre la privacidad y el uso indebido potencial. Las empresas de tecnología que proporcionan el software a las escuelas no han publicado sus propios hallazgos ni han enviado sus datos a investigadores independientes. “En este momento, no tenemos suficientes datos para entender cuán efectivas son estas tecnologías”, dijo Laura Erickson-Schroth, directora médica de la Fundación Jed, una organización sin fines de lucro enfocada en prevenir el suicidio juvenil.
Una portavoz de GoGuardian dijo que la compañía estaba asociándose con una institución de investigación reconocida para publicar un estudio de investigación sobre la eficacia de la herramienta.
Sin embargo, aunque estas tecnologías pueden ayudar a identificar a estudiantes en riesgo, también pueden llevar a malentendidos y reacciones desproporcionadas por parte del personal escolar. Las intervenciones basadas en alertas automáticas pueden no siempre reflejar la realidad del estudiante involucrado, lo que puede resultar en situaciones incómodas o dañinas.
Consecuencias no deseadas
Los pensamientos suicidas entre escolares son comunes. Al menos uno de cada cinco estudiantes de secundaria (alrededor de 3 millones de personas) informó haber considerado suicidarse en el último año, según la encuesta más reciente de los Centros para el Control y la Prevención de Enfermedades. El estudio descubrió que la mitad informó haberlo intentado. Cada año se dan alrededor de 7.000 muertes por suicidio de personas menores de 24 años.
El desafío para el algoritmo de estos software basados en inteligencia artificial es la precisión: ¿con qué frecuencia no detecta a niños con tendencias suicidas? Cuando detecta a un estudiante como suicida, ¿con qué frecuencia resulta que es cierto? Luego está la cuestión del seguimiento: ¿qué atención pueden brindar las escuelas a los niños en crisis? ¿Ayuda?
Las intervenciones pueden ser cruciales, pero también hay consecuencias no deseadas. Las organizaciones de derechos humanos han advertido sobre los riesgos para la privacidad, especialmente para estudiantes LGBTQ+. Además, los falsos positivos pueden generar ansiedad y estrés tanto en estudiantes como en personal escolar.
A pesar de las críticas, muchos consejeros creen que estas herramientas son necesarias para identificar a aquellos que podrían estar sufriendo en silencio. Talmage Clubbs, director de servicios de asesoramiento en Neosho, argumenta que suspender las alertas podría tener graves consecuencias. “Es difícil apagarlo”, dice Clubbs. “Las consecuencias son que alguien puede morir”.
“Se necesita tiempo para entrenar a los algoritmos para que hagan lo correcto. El hecho de que todavía no haya evidencias o que estemos en las primeras etapas no significa que no funcione”, explicó Jonathan B. Singer, ex presidente de la Asociación Estadounidense de Suicidología.
Falsas alarmas y recursos limitados
Es importante reconocer que el uso excesivo del monitoreo puede llevar al desgaste emocional tanto para estudiantes como para educadores. Las constantes alarmas pueden crear un ambiente donde todos se sientan vigilados y juzgados por cada palabra escrita. Esto podría disuadir a algunos estudiantes de expresarse libremente o buscar ayuda cuando realmente lo necesitan.
Las falsas alarmas son comunes. Un día típico puede incluir múltiples alertas erróneas que consumen tiempo y recursos del personal escolar. Además, las visitas policiales motivadas por alertas erróneas pueden causar traumas adicionales. En algunos casos reportados, estas visitas han dejado a los estudiantes sintiéndose más inseguros y ansiosos acerca de compartir sus luchas emocionales con adultos responsables. En algunos distritos se ha decidido limitar estas intervenciones fuera del horario escolar.
La falta de datos claros sobre la efectividad del monitoreo genera dudas. Expertos en salud mental señalan que no hay suficientes evidencias para determinar cuán efectivas son estas tecnologías en realidad.
A medida que más escuelas implementan estos sistemas, es esencial recopilar datos concretos sobre su impacto real en la prevención del suicidio y las autolesiones entre los jóvenes. Sin información clara y accesible, será difícil evaluar si estos métodos están logrando sus objetivos o si están causando más daño que bien.
Perspectivas de padres y estudiantes
Algunos padres ven el monitoreo como una herramienta valiosa para mantener seguros a sus hijos. Ann Greene, madre de una niña con problemas emocionales, encontró útil que un consejero escolar le informara sobre comentarios inquietantes hechos por su hija.
Otros, por el contrario, se sienten frustrados por cómo estas alertas pueden llevar a reacciones exageradas por parte del personal escolar. Jill Clark compartió su preocupación tras recibir una llamada sobre su hijo debido a búsquedas relacionadas con el suicidio; aunque posteriormente entendió mejor la situación emocional de su hijo, el proceso inicial fue angustiante.
Los estudiantes también han expresado sus parecer sobre la vigilancia. Algunos argumentan que erosiona la confianza entre ellos y el personal escolar. Sienten que esta supervisión constante crea un ambiente hostil donde temen ser malinterpretados o juzgados. Otros sienten alivio al saber que hay adultos dispuestos a intervenir si detectan señales preocupantes.
La implementación efectiva del monitoreo debe ir acompañada por programas educativos enfocados en salud mental y bienestar emocional para ayudar tanto a estudiantes como a educadores a manejar situaciones delicadas sin recurrir exclusivamente al control tecnológico.
Apoyo fundamental
Fomentar una cultura abierta donde los estudiantes se sientan cómodos hablando sobre sus problemas puede ser tan importante como cualquier herramienta tecnológica para evitar los suicidios entre escolares.
Los programas escolares deben incluir capacitación para maestros sobre cómo abordar temas sensibles relacionados con salud mental y autolesiones sin depender únicamente del monitoreo digital.
Además, involucrar a padres y comunidades locales para desarrollar un enfoque integral hacia el bienestar estudiantil. La colaboración entre escuelas y familias puede facilitar un entorno donde todos trabajen juntos para identificar señales tempranas de problemas emocionales antes de que se conviertan en crisis graves.
La lucha contra el suicidio juvenil requiere un enfoque integral que combine tecnología con empatía y comprensión. Solo así se podrá construir un entorno seguro donde todos los estudiantes se sientan apoyados y comprendidos en sus momentos más difíciles.
+ en Cambio16.com:
Conforme a los criterios de 
Saber más
