La inteligencia artificial al servicio del acoso juvenil sacude a Río Colorado

(NOTI-RIO) Un adolescente abre su teléfono una noche cualquiera y encuentra un video. En él aparece él mismo: su cara, su voz, su nombre. Pero las palabras que dice nunca salieron de su boca.

Las situaciones que protagoniza nunca ocurrieron. La imagen fue fabricada con inteligencia artificial en cuestión de minutos, a partir de una foto tomada de su red social y ya la vieron cientos de personas.

No hay forma de borrarla. No hay forma de frenarla. Y en este momento, ese video sigue circulando.

Esto no es una distopía futura. Es lo que está ocurriendo hoy en Río Colorado y que decidió, a diferencia de tantas otras que miran para otro lado, sentarse a reconocer el problema de frente.

Lo que comenzó como una serie de incidentes que cada institución procesaba por separado, con alguna denuncia en la Defensoría, con un alumno angustiado en la dirección y con algunas intervenciones policiales durante el fin de semana festivo, terminó desembocando en algo sin precedentes para la escala de esta comunidad: una cumbre autoconvocada de emergencia que reunió a más de veinte organizaciones locales en torno a una misma mesa, con el mismo diagnóstico y una urgencia compartida que no dejó lugar a la indiferencia.

Para entender la magnitud del problema, hay que entender primero la simplicidad aterradora con la que opera.

La tecnología deepfake, aquella que permite animar rostros estáticos, asignarles voces sintéticas y construir narrativas falsas con el nivel de verosimilitud de un video real, dejó de ser patrimonio de grandes estudios de producción.

Hoy vive en aplicaciones de descarga gratuita, accesibles desde cualquier teléfono, manejadas con naturalidad por adolescentes de doce o trece años.

El proceso es brutal en su simplicidad: se toma una fotografía pública de un compañero de cualquier red social donde el adolescente haya subido una imagen pensando que era inocua, se procesa con una de estas aplicaciones, y en minutos se puede fabricar un video en el que esa persona dice cosas que nunca dijo, aparece en contextos que nunca existieron o protagoniza situaciones íntimas que nadie filmó.

“Utilizan la inteligencia artificial haciendo videos y tomando fotografías de otros adolescentes, haciéndolas animadas y diciendo cualquier cosa que se les ocurra”, describió una de las convocantes durante el encuentro, con la precisión de quien ya ha escuchado demasiados casos concretos. “Yo soy tal cosa, soy de tal o cual manera, hago tal cosa. Una vez que el video está afuera, es imposible replicar el daño que produce en ese chico o en esa familia.”

Esa última frase es clave y merece repetirse: una vez que el video está afuera, no hay retorno.

LOS CANALES: UNA RED DE DISTRIBUCIÓN ANÓNIMA EN EL CORAZÓN DE LA CIUDAD

El contenido no se queda en manos de quien lo fabrica. Se distribuye. Y los mecanismos de distribución son tan sofisticados con simples, según se mire.

En Río Colorado existen, distintos canales de difusión creados por los jóvenes en WhatsApp, Tik Tok, Instagram entre otras redes que cuentan con centenares de suscriptores. Todos anónimos.

Todos activos. Todos alimentados con el mismo tipo de material: videos generados por inteligencia artificial que utilizan los rostros de adolescentes reales de esta ciudad, combinados con narrativas diseñadas para destruir reputaciones, ridiculizar sexualidades, exponer supuestos secretos familiares o simplemente humillar.

“En uno de esos canales había más de 200 seguidores. En el otro, más de 400. Son un montón de nuestros chicos mirando cómo se vota, cómo se ríen, cómo somos parte de esto”, señaló una de las directoras de las instituciones educativas presentes en el encuentro.

Para dimensionar esas cifras en contexto: estamos hablando de una comunidad de escala intermedia donde prácticamente todo el mundo se conoce. Que un montos de chicos estén suscritos a un canal anónimo dedicado a distribuir contenido denigrante sobre menores no es un dato menor. Es una fractura en el tejido social que tardará tiempo en cicatrizar.

Pero los canales de difusión no son la única plataforma. También proliferan los llamados “clubes de la pelea”: grupos digitales creados específicamente para organizar y documentar enfrentamientos físicos entre adolescentes, incitarlos desde la pantalla y luego distribuir los videos como trofeos.

Un docente de educación física describió en el encuentro una situación que vivió en primera persona: “Salió a buscar al padre de uno de los chicos que había armado el club de la pelea. Incitaba a los chicos diciendo ‘te va a agarrar en tal esquina’, indicando dónde iba a ocurrir el enfrentamiento. Y lo curioso fue que cuando fui a hablar con un familiar, me explicaron que hay adultos del entorno que están cruzando o empujando a que sucedan estas cosas, o que las habilitan.”

Detrás de los algoritmos, las aplicaciones y los canales anónimos, hay adolescentes reales. Chicos que llegan a la dirección de su escuela con los ojos cargados. Que no quieren abrir el teléfono por las mañanas. Que van a una fiesta y en lugar de disfrutar están pendientes de si alguien los está filmando para el próximo video viral.

“Nuestros chicos en lugar de ir a una fiesta y disfrutar del grupo tienen que ver eso, tienen que estar pendientes de si los están grabando”, señaló una profesora durante la reunión, con una mezcla de tristeza y indignación que recorrió la sala. “Es muy triste lo que está pasando.”

La fiesta del último fin de semana anterior a la reunión fue un termómetro doloroso. Hubo varias intervenciones policiales vinculadas directamente a esta dinámica. El espacio de ocio, de celebración comunitaria, había sido colonizado por la vigilancia mutua entre pares.

Las profesionales de la salud mental que participaron del encuentro fueron categóricas en su diagnóstico.

Una psicóloga presente, junto a sus colegas del hospital y los centros de salud, describieron un cuadro clínico que ya no admite minimizaciones: hay un aumento sostenido y documentado de cuadros de ansiedad severa, angustia crónica y fobia social en adolescentes que hasta hace poco no presentaban ninguna vulnerabilidad de ese tipo.

“La salud mental es tan importante, y estas cosas atacan también contra la salud mental de los chicos”, advirtió la profesional. “El uso de las redes los conecta, pero también demuestra la violencia que hay entre todos. Y lo que se hace hoy, si no se corta, tiene consecuencias que se van a ver con el correr del tiempo.”

El hostigamiento tradicional tenía límites físicos y temporales. Ocurría en un lugar, a una hora, entre personas que compartían un espacio. Cuando el chico llegaba a su casa, terminaba. O al menos hacía una pausa.

Hoy no hay pausa. Uno de los directivos escolar presentes en el encuentro, lo describió con una precisión que quedó resonando en la sala: “Antes el bullying estaba dentro de la escuela y el chico se iba a su casa y terminaba. Hoy salen de la escuela, siguen con el teléfono, se acuestan y atrás de una pantalla siguen todo el tiempo.” No es una metáfora. Es la rutina cotidiana de cientos de adolescentes en esta ciudad.

LA ESCUELA: UN CAMPO DE BATALLA QUE NO ELIGIÓ SERLO

Las escuelas secundarias de Río Colorado llevan meses siendo el epicentro visible de un conflicto que en realidad se genera y se alimenta fuera de sus muros. El ciclo es conocido para quienes trabajan ahí: el video se fabrica en casa, se distribuye por la noche, y a la mañana siguiente estalla en el aula.

“Son problemas que nos traen a la escuela. Si es un problema del pueblo o de lo que pasó en la vida del pueblo, indirectamente repercute hacia el interior de las instituciones”, explicó otra docente “No estamos ajenos a lo que pase fuera con nuestros estudiantes.”

Uno de los patrones más preocupantes que describieron los directivos es la velocidad con la que los propios alumnos construyen sus redes paralelas.

Al inicio de cada ciclo lectivo, las escuelas arman grupos de WhatsApp para comunicar información a las familias. Pero de manera simultánea, y con una agilidad que desconcierta a los adultos, los alumnos ya conformaron sus propios canales: “Ya agarraron a uno o dos compañeros de punto. Es como muy rápido la dinámica que manejan en cuanto a estas situaciones. Arranca a principios de año y ya están dentro de un grupo armado para hostigar.”

La orientadora escolar presente en el encuentro sumó otro ángulo que pocas veces se menciona: “Me pregunto qué está pasando en las casas de esas personas que están teniendo esos comportamientos. Siento que va todo de la mano, y que tendría que estar la comunidad educativa y todas las instituciones replanteándose esta situación junto con las familias.”

EL DATO QUE MÁS INCOMODA: LOS ADULTOS COMO PARTE DEL PROBLEMA

En el análisis de los casos concretos emergió una dimensión que complica cualquier solución simplista y que, según coincidieron varios presentes, es uno de los factores más difíciles de abordar: en algunos conflictos, los adultos del entorno no son parte de la solución. Son parte del problema.

Se relevaron situaciones en las que familiares directos empujan, habilitan o participan activamente en la dinámica de hostigamiento. Adultos que alientan a sus hijos a confrontar. “Hay parte de la familia o cosas familiares donde los adultos están cruzando o empujando a que sucedan también, o que habilitan”, reveló el docente de educación física. “Y lo curioso es que cuando fui a hablar con el familiar, la respuesta fue explicarme que yo no era parte del asunto.”

Docentes y directivos reportaron situaciones donde los adultos, lejos de intervenir para frenar la violencia digital, participan en la difusión del contenido o empujan a sus hijos hacia la confrontación. Esta “habilitación familiar” convierte lo que podría abordarse como un problema tecnológico en una degradación mucho más profunda del tejido social.

LA JUSTICIA: MANOS ATADAS ANTE UN VACÍO LEGAL ESTRUCTURAL

Uno de los momentos más impactantes del encuentro fue cuando desde el área judicial se expuso, sin eufemismos, el estado real de la situación legal. La palabra “impotencia” apareció varias veces en boca de personas que dedican su vida profesional a hacer funcionar el sistema.

La gran mayoría de los responsables de crear y distribuir este contenido son menores de edad no punibles. Eso significa que el derecho penal argentino, tal como está configurado hoy, no dispone de herramientas para intervenir de manera directa en estos casos cuando el agresor tiene menos de cierta edad.

“Desde el derecho penal, por lo menos hasta septiembre, no va a haber abordaje”, confirmó una representante del área judicial ante el resto de los participantes. “No hay mucho para hacer por los menores de edad en este momento, más que llamar a un adulto responsable e intervenir de ese lado.”

Una de las responsables de la oficial de la Comisaría de la Familia, fue igualmente directa: “Son la mayoría menores no punibles. No hay nada ahora con lo que podamos actuar, más que llamar a algún adulto responsable.”

No es una crítica al sistema judicial local. Es una advertencia sobre un vacío estructural que existe a nivel nacional: el espacio digital funciona con una alarmante zona gris jurídica cuando las víctimas y los victimarios son menores de edad. Las leyes vigentes no fueron diseñadas para este escenario, y la tecnología avanza a una velocidad que el derecho no logra seguir.

Sin embargo, desde la Fiscalía, se aclaró que no todo está perdido: “Se puede abordar desde otros fueros, el civil y el de familia. Hay como un principio de abordaje, hay cosas que se pueden hacer.” El camino existe, pero es estrecho, técnico y requiere una articulación institucional que hoy todavía está en construcción.

La amplitud de la convocatoria fue en sí misma una señal que no debería subestimarse. Estuvieron presentes directivos de todas las escuelas secundarias, el equipo interdisciplinario de la Comisaría de la Familia con su psicóloga y trabajadora social, representantes de la Fiscalía y del Juzgado local, psicólogos y enfermeras del hospital y los centros de salud, presidentes de los clubes deportivos y sociales más importantes de la ciudad, el cuerpo de Bomberos Voluntarios y orientadores escolares.

Cada uno llegó con sus recursos, que en la mayoría de los casos son escasos. Y cada uno llegó con la misma convicción: esto no lo puede resolver ninguna institución por separado.

“Somos muy escasos en recursos para abordar estas situaciones. Pero estamos a disposición para lo que sea, incluyendo el salón para charlas o talleres si hace falta.”

La reunión se cerró con compromisos concretos y una convicción compartida. Las líneas de acción que emergieron del encuentro apuntan a cuatro frentes simultáneos.

Alfabetización digital real. No alcanza con decirles a los chicos que “cuiden lo que publican”. Se requieren talleres con casos concretos que expliquen que las acciones digitales tienen consecuencias legales y humanas tangibles. Que el “anonimato” en Internet es rastreable. Que detrás de cada imagen hay una persona que sufre un daño real.

Formación para adultos. Los padres no pueden cuidar lo que no entienden. La propuesta apunta a darles herramientas prácticas para identificar el uso de aplicaciones de inteligencia artificial generativa, reconocer señales de alerta y acompañar el uso del celular sin caer en el extremo del control absoluto que aleja el diálogo.

Un spot comunitario unificado. Una de las propuestas más originales del encuentro fue la de construir un mensaje audiovisual colectivo: no que cada escuela arme el suyo por separado, sino que en un mismo spot confluyan las voces de todas las instituciones de Río Colorado. “No que diga esto lo hizo tal escuela, sino las instituciones. Todas juntas”, se planteó desde la convocatoria. La idea es construir un rechazo social que desnaturalice el consumo de este tipo de contenido.

Un protocolo de respuesta rápida. El objetivo es articular en tiempo real a la policía, las escuelas y la Justicia para acortar el ciclo entre la denuncia y la acción, cortando la impunidad que hoy retroalimenta a quienes acosan.

EL MOMENTO POLÍTICO: LA AGENDA QUE NO PUEDE ESPERAR

La magnitud de lo que se está discutiendo ya trasciende lo institucional y entró en la agenda política local. Para el próximo encuentro se espera la presencia del intendente Duilio Minieri. Su participación no es un detalle de protocolo: sin recursos municipales concretos, los mejores planes de acción quedan atrapados en la buena voluntad de organizaciones que ya trabajan al límite de sus posibilidades.

Además, también la Fiscalía, por su parte, tiene por delante el desafío de elevar el reclamo a instancias superiores para impulsar marcos legales que protejan efectivamente a los menores en el espacio digital.

Porque si algo quedó claro en esta reunión es que las herramientas legales vigentes no fueron diseñadas para este escenario, y esperar a que el derecho alcance a la tecnología tiene un costo humano que esta comunidad ya está pagando.

Hay algo que los especialistas repitieron de distintas maneras a lo largo del encuentro y que merece ser escuchado con seriedad: el daño que se está haciendo hoy, si no se interrumpe, no desaparece cuando los adolescentes crecen. Se instala. Se naturaliza. Construye adultos que aprendieron que la imagen del otro es un recurso disponible para atacar, humillar o controlar.

Una psicóloga con más de treinta años de trabajo en la comunidad lo expresó con la claridad que da la experiencia: “Estas cosas atacan directamente contra la salud mental. Y lo que se hace hoy, si no se corta, tiene consecuencias que se van a ver con el correr del tiempo. En la autoestima. En los vínculos. En la salud emocional de adultos que hoy son adolescentes.”

Eso no es solo un problema de redes sociales. Es un problema de la comunidad que está siendo construida en este momento, en cada pantalla encendida, en cada video que circula sin que nadie lo detenga.