Deepfake y la generación ansiosa

Por desgracia, ocurrió lo que podía ocurrir. Un par de alumnos hombres de un colegio privado de nuestro país, utilizando inteligencia artificial (IA), fabricaron y compartieron fotos desnudas de siete de sus compañeras. Las caras eran de sus compañeras, pero los cuerpos en poses explícitamente sexuales fueron agregados por un software de IA.

Eso ya tiene nombre: Deepfake. Se suplantan fotos, videos y audios que parecen reales pero son engaños. Se pegotea una cara a un cuerpo, sin que nadie se dé cuenta. Situaciones similares, al interior de comunidades educativas, ya han ocurrido afuera y también con famosos como Taylor Swift.

El asunto se conoce porque unos apoderados de las adolescentes presentaron recursos de protección ante los tribunales. Dichos recursos alegarían (los escritos están bajo confidencialidad) que el colegio partió expulsándolos, pero luego recogieron cañuelas e impusieron condicionalidad y recomendaron acompañamiento docente y paradocente. Los apoderados aducirían infracciones al honor de sus hijas, a la Convención de los Derechos del Niño y a los protocolos del colegio, y exigen la expulsión.

«Chipe libre para surfear por internet y las redes sociales, aunque no se cumpla con el mínimo de edad requerido y eso produzca una sobreestimulación permanente de dopamina. Plataformas buscando acaparar toda nuestra atención y así extraernos información, para luego monetizarla vía publicidad.»

Tan pronto la noticia aparece en un medio digital, todo se infecta con el entuerto: televisión, radio, prensa y, por supuesto, redes sociales. En un par de horas, agarra vuelo el Ministerio Público y anuncia una investigación de oficio por trato degradante a menores de edad y distribución de pornografía infantil. Adicionalmente, se reactiva un proyecto de ley del 2019 sobre violencia digital y coincidentemente se presenta otro sobre regulación de IA.

Todo triste. Triste el hecho en sí, por cierto. Triste la reacción zigzagueante del colegio. Triste eso de tener que recurrir a jueces para zanjar heridas sensibles de una comunidad. Triste esa fijación mental de que nuevas leyes son el ungüento mágico para sanar todos nuestros males. Triste, también, toda la parafernalia mediática. Pero lo más triste, me imagino, debe ser el ambiente gélido en que está inmerso ese colegio, en especial sus alumnas, por este hecho tan doloroso y truculento, pero -de nuevo- desgraciadamente predecible.

En estos días llegó a mis manos un reciente libro de un reconocido profesor de sicología de NYU sobre la generación de jóvenes criados bajo el mundo virtual (Jonathan Haidt, The Anxious Generation, 2024). Su lectura no hace más que aumentar esa tristeza.

El libro se concentra en la generación Z: la nacida a fines de los noventa. El diagnóstico es infernal, en especial respecto de las niñas, al punto que se habla de una marea de ansiedad y sufrimiento.

Déjenme escupir algunas cifras de EE.UU. A partir del 2010, la autopercepción de depresión aumentó un 145% en niñas y 160% en niños. Por su parte, los estudiantes universitarios, en igual período, experimentan un aumento similar de ansiedad y depresión, en especial en la generación de 18-25 años. También entre 2010 al 2020 aumentaron en 188% las visitas a hospitales de niñas por heridas auto inferidas. En suicidio, la tasa aumentó sustantivamente, en especial entre los niños. Por otra parte, el número de estudiantes que dice que se reúne casi diariamente con amigos descendió bastante entre el 2010 y el 2017, al tiempo que aumentó el porcentaje de niños y niñas que duermen menos de 7 horas al día, que experimentan un sentimiento de soledad y que pasan colgados a las redes sociales. Cifras similares aparecen en otros países del hemisferio norte.

Esas cifras, que muestran una tendencia a partir del 2010, se gatillarían, según Haidt, por la inmersión al mundo digital: el lanzamiento del primer IPhone (2007) y su posterior popularidad, el arribo del “Like” y “Retweet” (2009), los celulares con cámara frontal para selfis (2010), la incorporación de Instagram a Facebook (2012) y la posibilidad de mejorar artificialmente nuestras fotos. Asimismo, se ve un retroceso en la autonomía de los niños/as para andar solos en espacios públicos y una disminución de las horas libres de juego.

Esa ansiedad se produciría por una sobreprotección al mundo real y una baja protección al mundo virtual, el reemplazo de “play-based childhood” por “phone-based childhood” y la adopción de un “modo defensivo” en contraste con otro de descubrimiento propio del mundo real. Chipe libre para surfear por internet y las redes sociales, aunque no se cumpla con el mínimo de edad requerido y eso produzca una sobreestimulación permanente de dopamina. Plataformas buscando acaparar toda nuestra atención y así extraernos información, para luego monetizarla vía publicidad.

Según Haidt, “La vida basada en el teléfono hace que sea difícil para las personas estar completamente presentes con los demás cuando están con otros, y sentarse en silencio consigo mismas cuando están solas”. Otra observación aún más triste: “los padres sienten que han perdido a sus hijos”, secuestrados por el teléfono.

Así, a partir de la generación Z estamos inmersos en un gran experimento: vivir en un mundo esencialmente digital, pensarse a sí mismo como un “online branding”, estar siempre conectados y sabiendo qué están haciendo los otros, en un contexto de privación social, privación de horas de sueño, fragmentación de la atención y adicción a las reacciones en las redes sociales y al bombardeo constante de puras trivialidades.

El remedio es radical y pasa porque los padres y los colegios se empoderen y lo hagan colectivamente. Cero pantallas a menores de 2 años, salvo video conferencias familiares. No regalar teléfonos inteligentes a los colegiales, sino unos que apenas permitan llamadas. Prohibir teléfonos en el colegio, tanto en clases como recreos. Prohibir redes sociales antes de los 16 y obligar a que las empresas que administran estas plataformas comprueben su veracidad. Alentar más juegos del mundo real no supervisados por adultos.

Nada de fácil: ni nuestro horrible caso de Deepfake ni el panorama general. Me temo que será difícil recuperarnos de esta adicción a nuestros teléfonos, especialmente a la generación que nació con ellos, y volver a disfrutar del mundo real, con sus naturales espacios de aburrimiento.

*Publicado en el diario El Mercurio el 16 de junio de 2024

También te puede interesar