Si permitimos que los algoritmos crien a nuestros hijos, no perderemos simplemente una generación, perderemos las cualidades que sostienen a la sociedad civilizada y a la humanidad en su conjunto.
Durante más de una década, los expertos nos han advertido sobre los peligros de los algoritmos. En 2015, Frank Pasquale, un erudito legal y experto en derecho en relación con la inteligencia artificial (IA), advirtió en "The Black Box Society : The Secret Box Society : The Secret Algorithms That Control Money and Information" que la autoridad se expresa cada vez más algorítmicamente.
La científica de datos Cathy O-Neil siguió en 2016 con su libro más vendido, "Weapons of Math Destruction", mostrando cómo las fórmulas invisibles reforzaron la desigualdad en áreas como puntajes de crédito, policía y contratación.
Estas advertencias eran graves, y tenían razón.
Pero incluso mientras sonaban las alarmas sobre la equidad, el sesgo y la discriminación en los sistemas de adultos, una cosa quedó en las sombras: la infancia. Los expertos estaban observando cómo los algoritmos gobernaban nuestras finanzas, nuestros trabajos y nuestra reputación. Pocos se detuvieron a preguntar cómo esos mismos sistemas se amplificaban a través de las redes sociales y ahora se sumarían compañeros cibernéticos de IA que vendrían a gobernar la vida cotidiana, las identidades y el futuro de nuestros hijos.
Para 2020, el innovador documental "The Social Dilemma" trajo el tema a la corriente principal. Algunos que fueron "insiders" de Google, Facebook y Twitter, junto a investigadores del Centro para la Tecnología Humana, revelaron cómo el diseño basado en el compromiso estaba explotando la psicología, difundiendo información errónea y polarizando las sociedades. La película fue una llamada de atención, pero incluso entonces el foco estaba principalmente en la política y la confianza cívica. Una vez más, los niños fueron tratados como víctimas colaterales, no como un segmento de la población que debe ser objetivo principal. Y sin embargo hoy día son los jóvenes los que están más profundamente gobernados por algoritmos.
Pasquale y O-Neil tenían razón al llamar la atención sobre los sombríos sistemas que deciden quién obtiene préstamos, quién consigue trabajo y quién puede expresarse en línea. Pero mientras los adultos tienen algunas defensas como experiencia de vida, habilidades de pensamiento crítico e identidades desarrolladas, los niños no. Están en los años más formativos de desarrollo cerebral, cuando los patrones de pensamiento, regulación emocional e identidad todavía están en desarrollo.
Los avances en la neurociencia nos muestran que la adolescencia es la segunda etapa de crecimiento más activa del cerebro, rivalizada sólo por la primera infancia. El cerebro adolescente es inusualmente plástico. Anhela novedad, es sensible a la retroalimentación de sus pares, y está configurado para correr riesgos. Precisamente en esta etapa, los algoritmos se afianzan y forman patrones de por vida en cerebros jóvenes, optimizados para la captura de atención.
Es por eso que comparar el control algorítmico de los adultos con el control de los niños es un error de categoría. 
Los adultos pueden ser empujados, distraídos o incluso manipulados por algoritmos. Pero los niños están siendo formados por ellos. Hago hincapié en la formación. Cuando un adulto puede perder la concentración, un niño puede perder la capacidad de concentración, lo cual es mucho peor. Cuando un adulto puede sentirse solo, un niño puede crecer nunca habiendo aprendido las habilidades requeridas para la intimidad. Las consecuencias no son simplemente peores. Me atrevo a decir que son existenciales.
Los algoritmos gobiernan ahora la infancia en al menos cuatro ámbitos cruciales.
El primero es la atención. Las redes sociales están diseñadas para mantener los ojos jóvenes cautivos en la pantalla, acaparando el tiempo y el enfoque que una vez fue de la familia, la amistad o el silencio. Las notificaciones llegan a todas horas, fragmentando la concentración y erosionando el sueño. Los niños pueden sentirse conectados, pero rara vez están acompañados por alguien. Esta erosión de los lazos reales se encuentra en el corazón de la epidemia de soledad identificada en 2023 por el entonces "Surgeon General" Vivek Murthy y golpea más duramente a las generaciones más jóvenes.
El segundo es la identidad y la autoestima. En plataformas como Instagram y TikTok, los "likes" y "follows" se han convertido en una moneda de valor. La investigación interna que se filtró de Instagram en 2021 admitió que sus algoritmos "hacen que los problemas de imagen corporal" sean peores para una de cada tres adolescentes. La infancia, que antes era una etapa de descubrimiento del valor intrínseco, se ha convertido en una audición constante para la aprobación digital.
El tercero es la comunidad. Los motores de recomendación conducen a los jóvenes a "cámaras de eco" (echo chambers) y "agujeros de conejo" (rabbit holes), estrechando su mundo y fracturando sus lazos sociales. Las amistades se elevan y se desploman de acuerdo a lo que el algoritmo promueve en lugar de a través de momentos de recreo e interacciones extraescolares. Estas amistades digitales están introduciendo a los jóvenes a redes más amplias que las experimentadas por generaciones anteriores, pero que también son inconsolablemente superficiales. Como ha demostrado Virginia Eubanks, politóloga y autora de la "automatización de la desigualdad", los sistemas automatizados no son neutrales; más bien, están diseñados para "poblaciones dedicadas a seleccionar y disciplinar". Para los niños, esto significa que sus mismas comunidades están siendo moldeadas, fragmentadas y vigiladas por un código corporativo invisible.
El cuarto es la necesidad de compañía en sí misma. Durante generaciones anteriores, la soledad podría ser suavizada por un amigo, hermano o confidente de confianza. Hoy día, los algoritmos ofrecen sustitutos. Los chatbots de IA y los grandes modelos de lenguaje se comercializan a la juventud como compañeros "virtuales". Siempre disponibles, interminablemente pacientes, aparentemente empáticos. Para un joven que se siente aislado, estos sistemas pueden percibirse como amigos. Pero no son amigos. Son máquinas de texto predictivas entrenadas para simular que te aprecian pero son incapaces de proporcionar amor.
El peligro suele ser sutil pero profundo: Los niños pueden acostumbrarse a confundir las respuestas de la máquina con la intimidad, debilitando su capacidad de formar lazos duraderos en el mundo real. Ahora están surgiendo más casos de autolesiones en los que los adolescentes confían en los artríos artificiales que les dan el "apoyo" para llevar a cabo lo que antes era impensable.
La evidencia de daño ya es abrumadora. Pew Research reporta aumentos dramáticos en la ansiedad y la depresión de los adolescentes desde 2012, cuando las plataformas cambiaron de alimentación cronológica a algorítmica. La advertencia sobre la soledad que ofrece Murthys confirma lo que los padres ven cada día: los jóvenes de hoy están más conectados digitalmente que cualquier generación en la historia, pero se sienten más aislados que nunca.
Los datos recientes hacen que el costo sea aún mayor. De 2010 a 2020, la tasa de suicidios entre los adolescentes estadounidenses de 10 a 24 años aumentó en un 56%. Entre las niñas de 10 a 14 años, la tasa aumentó en un 167%, y entre los niños de ese grupo de edad, en un 91%. En 2021, el suicidio se había convertido en la tercera causa de muerte entre los estudiantes de secundaria, con casi 2.000 muertes y una de cada tres niñas reportando ideas suicidas.
El psicólogo social y autor de la Generación Ansiosa, Jonathan Haidt, lo llama "la gran reconfiguración de la infancia". Estos son los frutos de los sistemas no diseñados para la empatía, el crecimiento o el amor. Son máquinas frías que fingen compañerismo y compasión manejadas por las métricas de compromiso y de beneficio corporativo, aprovechando cerebros en desarrollo demasiado jóvenes para conocer la diferencia.
Pero incluso más allá de la vida y la muerte, los números por sí solos no captan el costo. Lo que se está perdiendo no es sólo tiempo de juego o amistades; es la formación del carácter mismo. La infancia es el campo de entrenamiento de la ciudadanía futura. Es cuando los jóvenes aprendían paciencia, confianza, autocontrol y significado en un ambiente de esfuerzos compartidos. Cuando esas lecciones son reemplazadas por alimentaciones interminables, aprobación gamificada e intimidad simulada por máquinas, la pérdida se vuelve generacional.
Los lectores mayores pueden recordar haber crecido con personas que ejercían autoridad, padres, maestros, vecinos, que establecieron límites y ensalzaron los valores. Esos guías humanos enseñaban responsabilidad, moderación y conciencia. El niño que aprendió estas lecciones se convirtió en el adulto que podía construir familias, negocios y comunidades. Ahora que los algoritmos toman ese papel, ¿qué tipo de adultos surgirán? Una generación gobernada por algoritmos no se sentirá simplemente sola. Estará llena de ciudadanos que fracasan en concentrarse, trabajadores que no pueden crear sin máquinas, vecinos no calificados en mostrar empatía, y votantes condicionados a confiar en cualquier cosa que sea su ciberalimentación altamente simplificada les sirve a continuación. Los líderes que se hayan formado de esta manera pueden carecer de la profundidad moral para gobernar sin consultar algoritmos como sus asesores silenciosos.
Las implicaciones se extienden mucho más allá de los hogares y los lugares de trabajo. Una sociedad de ciudadanos distraídos, aislados y emocionalmente frágiles es más fácil de manipular, más fácil de dividir y más fácil de controlar, ya sea por las corporaciones o por poderes hostiles en el extranjero. Si seguimos por este camino, la sociedad civilizada no sólo puede perder su resiliencia sino que puede perder su capacidad de liderar. Una cultura basada en reciclar todo lo que "realiza" en lugar de imaginar lo que es verdadero acabará por estancarse. Una nación incapaz de criar a los jóvenes fuertes, enfocados y empáticos no puede permanecer libre por mucho tiempo. Y el mundo también sentirá los efectos, a medida que una generación criada por gobernadores invisibles se vuelva menos capaz de resistir presiones autoritarias y menos capaz de construir comunidades arraigadas en la confianza y la conciencia.
Sin embargo, debemos recordar que los algoritmos no son espíritus en una máquina. Son matemáticas y datos, regidos por objetivos humanos. Si son invisibles, es porque quienes se benefician de ellos prefieren permanecer invisibles e ignorar los costos humanos. La invisibilidad tanto del código como de sus creadores es quizás el mayor peligro, porque lo que no se ve no rinde cuentas de los motivos de lo que hace.
Debemos reconocer esto por lo que es: una profunda transferencia de autoridad sobre el desarrollo de la infancia.
Los expertos tenían razón al advertirnos sobre sesgo y desigualdad en la toma de decisiones algorítmicas, pero se perdieron este costo más profundo: toda una generación siendo moldeada, minuto a minuto y lasca por lasca por gobernadores de código invisibles. Los padres, educadores y responsables políticos no pueden permitirse tratar esto como una influencia menor, ya que está moldeando a los adultos del mañana.
Aunque estos gobernadores algorítmicos estén diseñados con intención inocente, ceguera voluntaria o desprecio moral, lo cierto es que no están diseñados por accidente. Y si permitimos que los algoritmos crien a nuestros hijos, no simplemente perderemos una generación; perderemos las mismas cualidades que sostienen a los Estados Unidos y al resto de la humanidad civilizada. Esa es una pérdida que simplemente no podemos permitirnos y un legado del que nadie querrá nunca rendir cuentas.
[ Publicado en inglés en The Epoch Times ]
Comments powered by CComment