Algoritmocracia y la banalidad del mal: por qué la cancelación está produciendo cerebros rotos

El autor de esta columna levanta una alerta sobre el impacto que tiene el algoritmo de las redes sociales en el neurodesarrollo de niños, niñas y adolescentes. Sostiene que «el diagnóstico es claro: el diseño de las plataformas está interfiriendo con nuestro neurodesarrollo. Como sociedad, no podemos seguir tratando las consecuencias de la cancelación solo como problemas de convivencia escolar. Exijamos una alfabetización digital que cuestione el modelo de negocios del dolor social y promovamos regulaciones que pongan el desarrollo infantil en el centro».

Crédito imagen de portada: Sócrates Orellana / Agencia Uno

Las cifras sobre salud mental infanto-juvenil en Chile se han vuelto parte del paisaje. Las conocemos de memoria: aumento sostenido de ansiedad y depresión, incremento de las autolesiones, colegios desbordados por la violencia y la conflictividad. Son datos relevantes, pero cuando los miramos solo como indicadores sanitarios corremos el riesgo de perder de vista algo más profundo.

Lo que observo en la consulta no es únicamente una crisis de salud mental. Es una transformación silenciosa en la forma en que niños y adolescentes aprenden a vincularse, a pertenecer y a ejercer juicio moral. Estamos modificando las condiciones que permiten el desarrollo de la empatía y, al mismo tiempo, externalizando el pensamiento crítico en sistemas que funcionan según métricas de visibilidad, reacción y castigo público. Lo que  está en juego no es solo un cambio de conducta, sino un cambio profundo del neurodesarrollo. 

Para comprender este fenómeno es útil poner en diálogo dos campos que rara vez se cruzan: la filosofía política del siglo XX y la neurociencia cognitiva contemporánea. En esa intersección —entre Hannah Arendt y lo que hoy sabemos sobre el cerebro social— aparecen claves relevantes para entender por qué se ha vuelto tan fácil condenar y tan difícil detenerse a pensar.

BANALIZACIÓN DEL DAÑO EN LA ERA DIGITAL

En 1963, Hannah Arendt publicó su libro sobre el juicio a Adolf Eichmann en Jerusalén. En él describe cómo actos atroces pueden ser cometidos por personas «normales», burócratas sin malicia ni ideología fanática, que simplemente cumplen órdenes y normas sin reflexión moral, transformando atrocidades en tareas administrativas, evidenciando una falta de pensamiento y juicio. A partir de esa observación formuló el concepto de la “banalidad del mal”: la idea de que el daño extremo no siempre nace del fanatismo o la maldad, sino de la renuncia a pensar y a hacerse responsable de los propios actos.

Si en el siglo XX el mal se expandía a través de la burocracia deshumanizada y la renuncia al pensamiento crítico, hoy se propaga a través de un código que prioriza la viralidad por sobre la veracidad. El usuario, atrapado en el scroll infinito, participa de la destrucción del tejido social de forma casi burocrática: sin odio premeditado, pero con una alarmante ausencia de pensamiento crítico.

Sin establecer equivalencias históricas ni morales entre contextos incomparables, esta categoría resulta útil para analizar ciertos mecanismos actuales. Hoy, esa suspensión del juicio encuentra un terreno fértil en el ecosistema digital.

Las redes sociales operan mediante una lógica que privilegia la reacción inmediata. Ante una polémica, una funa o un video viralizado, la secuencia es predecible: adhesión rápida, reproducción del mensaje, condena pública. El espacio para la duda, la proporcionalidad o la verificación se reduce al mínimo. El juicio ético deja de ser un acto personal y reflexivo para convertirse en una respuesta automática, amplificada e inducida por el algoritmo.

En este contexto, la responsabilidad individual se diluye. El castigo simbólico se ejerce sin rostro, sin encuentro y sin consecuencias visibles para quien participa. No se trata necesariamente de mala intención, sino de una estructura que premia la indignación y penaliza la pausa. La obediencia a la tendencia reemplaza al pensamiento.

EL DOLOR NO ES CUENTO

Aquí es necesario detenerse y desmontar una de las ideas más dañinas que circulan entre adultos ajenos a la cultura digital: lo que ocurre en redes sociales “no es tan grave”, “es solo internet” o basta con apagar el teléfono.

Desde la neurociencia sabemos que esto no es así. La investigación ha demostrado de manera consistente que el cerebro adolescente no distingue con claridad entre una agresión física y una agresión social. El rechazo, la humillación pública y la exclusión activan los mismos circuitos neuronales —específicamente en la corteza cingulada anterior (ACC) y la ínsula anterior (AI)— que el dolor corporal intenso. No se trata de una metáfora ni de una exageración clínica: el sufrimiento por exclusión se procesa en las mismas regiones cerebrales que se activan cuando una persona se quema o se fractura.

Esto tiene una explicación evolutiva brutal. Para un mamífero social, quedar fuera del grupo ha sido históricamente una amenaza vital vinculada a la desprotección y la muerte. El cerebro desarrolló un sistema de alerta que utiliza el dolor como incentivo para recuperar la pertenencia. No es una metáfora: el sufrimiento social es un mecanismo de supervivencia que nos obliga a evitar el aislamiento. En la tribu, la ética se ejercía a través del control visual y el feedback era inmediato. Hoy, la algoritmocracia permite el castigo asincrónico y sin rostro, desactivando los frenos biológicos de la empatía que la evolución tardó milenios en perfeccionar.

El problema es que hoy esa alarma no se activa de forma excepcional, sino constante. Suena en el bolsillo de niños y adolescentes a cualquier hora, amplificada por algoritmos que no permiten refugio. En la adolescencia, este impacto es especialmente devastador: el cerebro está diseñado para priorizar la pertenencia social mientras las regiones encargadas de la regulación y la perspectiva aún están en pleno desarrollo. Investigaciones recientes confirman que esta sensibilidad al dolor social y los mecanismos de empatía afectiva siguen una trayectoria de desarrollo extendida que no culmina sino hasta la adultez.

Por eso, cuando un adolescente es funado o ridiculizado, su cuerpo no lo vive como un conflicto trivial. Lo vive como una amenaza existencial. No es fragilidad generacional: es biología.

Esto explica lo que veo cada semana en la consulta. No llegan jóvenes “ideologizados”, sino adolescentes con insomnio, crisis de pánico y un miedo paralizante. El relato es mínimo: una captura de pantalla, un comentario sacado de contexto, un silencio colectivo. Desde fuera, el adulto lo minimiza; desde dentro, el cerebro lo procesa como un dolor físico sostenido que el organismo no puede ignorar.

EMPATÍA EROSIONADA Y PEDAGOGÍA DEL MIEDO

La pregunta inevitable es por qué resulta tan fácil infligir este daño. Parte de la respuesta está en la eliminación de la comunicación no verbal. La empatía no es solo una disposición moral; es un proceso neurobiológico que se activa con la presencia del otro: el tono de voz, el gesto, la mirada. La interacción digital elimina ese feedback inmediato, reduciendo al interlocutor a un texto, emoji o un avatar.

En Chile, la funa se ha normalizado como forma de sanción social. En el contexto escolar, esto ha derivado en una pedagogía del miedo. Muchos adolescentes aprenden tempranamente que opinar implica riesgo, que equivocarse no abre espacio a la reparación, sino a la exposición. El resultado es la autocensura y la inhibición del pensamiento crítico.

Desde una perspectiva del desarrollo, esto es especialmente problemático. La adolescencia debería ser un espacio de ensayo, error y aprendizaje social. Cuando ese proceso ocurre bajo vigilancia constante, el costo psicológico es alto y las consecuencias se proyectan más allá de la salud mental individual.

MÁS ALLÁ DE LA MEDICALIZACIÓN

No todo malestar es enfermedad, y no todo problema social tiene lamentablemente solución clínica. Como psiquiatra, resulta evidente que no existen fármacos capaces de compensar un entorno relacional tóxico. El foco no puede ponerse únicamente en el individuo, sino en las condiciones estructurales que están contribuyendo a este malestar.

Las plataformas tecnológicas no son neutras: sus algoritmos priorizan contenidos que generan reacciones intensas porque eso maximiza el tiempo de conexión. El sistema educativo y las familias, por su parte, enfrentan el desafío de una alfabetización digital que no se limite al uso instrumental, sino que incluya habilidades de regulación emocional, pensamiento crítico y comprensión de estos mecanismos. El “dolor social” es el modelo de negocios de la algoritmocracia.

Finalmente, resulta imprescindible recuperar espacios de encuentro presencial. No como nostalgia, sino como necesidad neurobiológica. La empatía profunda se activa en la interacción directa, en la posibilidad de reconocer al otro como un igual y no como un objeto de reacción.

VOLVER A SER TRIBU

Pensar exige pausa y esfuerzo. Seguir la inercia del grupo es más fácil. Pero cuando el juicio moral se delega por completo a la lógica de la tendencia, el costo no es solo individual. La erosión de la empatía afecta la convivencia y empobrece la deliberación democrática. Frente a ese escenario, la intervención clínica por sí sola es insuficiente: se requiere una respuesta social, educativa y política que vuelva a poner el pensamiento —y al otro— en el centro.

Durante la mayor parte de nuestra historia evolutiva, la regulación del comportamiento humano ocurrió en comunidades pequeñas, visibles y vinculadas. Éramos tribu. El error no implicaba la aniquilación simbólica, sino la posibilidad de reparación; el conflicto se resolvía en presencia del otro, con límites claros, pero también con rostro, contexto y palabra. Esa estructura no era ideal, pero sí profundamente humana y neurobiológicamente compatible con el desarrollo de la empatía, el juicio moral y la pertenencia.

Hoy hemos reemplazado esa lógica por una algoritmocracia que castiga a distancia, sin encuentro y sin proporcionalidad. El cerebro adolescente —diseñado para aprender en comunidad— queda expuesto a un sistema de sanción permanente, asincrónico y sin refugio. No es extraño que emerjan el miedo, la inhibición y el colapso del pensamiento crítico.

Volver a ser tribu no significa idealizar el pasado ni renunciar a la tecnología. Significa reconstruir comunidades con límites y cuidado, donde el error sea parte del aprendizaje y no una sentencia perpetua; donde la regulación social vuelva a estar mediada por la presencia, la palabra y la responsabilidad compartida. Significa recuperar espacios presenciales, tiempos lentos y adultos que ejerzan función de contención, no de amplificación del castigo.

El diagnóstico es claro: el diseño de las plataformas está interfiriendo con nuestro neurodesarrollo. Como sociedad, no podemos seguir tratando las consecuencias de la cancelación solo como problemas de convivencia escolar. Exijamos una alfabetización digital que cuestione el modelo de negocios del dolor social y promovamos regulaciones que pongan el desarrollo infantil en el centro. Pero, sobre todo, reaprendamos a vivir como tribu en un mundo digital.

El cerebro no espera y la infancia no se repite.