El arribo de la pornografía sintética: protegiendo a menores y definiendo límites

El autor de esta columna comenta una arista poco explorada del uso de la IA, pero sobre todo de su regulación, y que tiene que ver con su uso para generar imágenes de connotación sexual. Sostiene que “es crucial fortalecer el marco legal existente y avanzar con las mociones de algunos parlamentarios que buscan establecer un marco legal que tipifique y sancione de manera explícita la creación y difusión de contenido sexual no consensuado generado por IA. Esta legislación debe establecer penas claras y mecanismos de reparación para las víctimas. Paralelamente, se debe invertir significativamente en la capacitación de las fuerzas de orden y a la fiscalía en la investigación de estos nuevos crímenes cibernéticos, que requieren conocimientos técnicos avanzados. Sin embargo, la regulación por sí sola es insuficiente si no va acompañada de una fuerte inversión en educación, que empodere a las nuevas generaciones con las herramientas necesarias para enfrentar estos desafíos”.

La reciente habilitación de contenido erótico en plataformas de IA como ChatGPT, el modelo  Wan de Alibaba y Grok, sumada a los casos de uso de IA para crear imágenes sexuales falsas en colegios de Chile, subraya una tesis central ineludible: es imperativo reforzar la gobernanza que regula el uso de la IA, con un énfasis particular en el control de sus algoritmos, y es urgente introducir programas de educación sexual y ética de la IA en los currículos educativos. 

Este nuevo escenario nos obliga a plantearnos preguntas cruciales: ¿cómo equilibramos el avance tecnológico con la protección de los menores? ¿Dónde está la línea entre la libertad y la responsabilidad? ¿Cuál debe ser la reacción del Estado de Chile y qué desafíos éticos nos demanda esta nueva realidad?

El anuncio de OpenAI de permitir contenido erótico en ChatGPT para adultos verificados a partir de diciembre de 2025, y la incursión de xAI, la empresa de Elon Musk con “modos picantes” en su IA Grok, marcan un punto de inflexión. Estas decisiones, justificadas bajo la premisa de “tratar a los adultos como adultos”, abren la puerta a un uso más amplio de la IA en el ámbito íntimo. Sin embargo, la sofisticación de estas tecnologías, capaces de generar videos y fotos sintéticas ultrarrealistas (deepfakes), como lo demuestran modelos como Wan, plantea un riesgo inminente de abuso. La facilidad con la que se puede crear contenido sexual explícito no consensuado, utilizando la imagen de cualquier persona sin su conocimiento o aprobación, es una de las mayores preocupaciones.

Recordemos el caso que  se materializó de forma alarmante en el Colegio Saint George’s o el del estudiante de 8° Básico en San Pedro de la Paz, donde se usó IA para crear y difundir imágenes de sus compañeras desnudas. El primer caso, que derivó en una investigación de la Fiscalía por trato degradante a menores y distribución de pornografía infantil, fue una cruda advertencia de la facilidad con que estas herramientas pueden ser instrumentalizadas para causar un daño devastador, exponiendo la urgencia de una respuesta contundente por parte de las autoridades y de la sociedad en su conjunto.

El problema se agrava al considerar el contexto chileno de consumo de pornografía. Más de la mitad de los jóvenes (53,8%) tiene su primer contacto con ella antes de los 13 años, facilitado por el acceso temprano a dispositivos móviles. La pornografía generada por IA, indistinguible de la real y personalizable con imágenes de cualquier individuo sin su consentimiento, multiplica exponencialmente estos riesgos de distorsión de la sexualidad, adicción y, sobre todo, de violencia sexual digital, creando un ambiente digital aún más hostil para el desarrollo saludable de los menores.

Frente a esta compleja realidad, la respuesta del Estado de Chile debe ser proactiva y multifacética. Es crucial fortalecer el marco legal existente y avanzar con las mociones de algunos parlamentarios que buscan establecer un marco legal que tipifique y sancione de manera explícita la creación y difusión de contenido sexual no consensuado generado por IA. Esta legislación debe establecer penas claras y mecanismos de reparación para las víctimas. Paralelamente, se debe invertir significativamente en la capacitación de las fuerzas de orden y a la fiscalía en la investigación de estos nuevos crímenes cibernéticos, que requieren conocimientos técnicos avanzados. Sin embargo, la regulación por sí sola es insuficiente si no va acompañada de una fuerte inversión en educación, que empodere a las nuevas generaciones con las herramientas necesarias para enfrentar estos desafíos.

Los desafíos éticos que nos demanda este nuevo escenario son profundos. La IA nos confronta con dilemas complejos sobre la privacidad y el consentimiento, en un mundo donde nuestra imagen y datos pueden ser replicados y manipulados sin nuestro permiso. Nos obliga a abordar el sesgo algorítmico, que puede perpetuar la discriminación, y a definir la responsabilidad cuando un algoritmo causa daño. 

Además, la creciente capacidad de la IA para influir en nuestras percepciones plantea serias preocupaciones sobre la autonomía y manipulación, especialmente en contextos sensibles como la IA erótica, donde puede distorsionar las relaciones interpersonales. 

Finalmente, el impacto psicológico y social de la exposición a contenido sexual generado por IA, o la victimización por deepfakes, puede tener graves consecuencias, incluyendo ansiedad, depresión y daño irreparable a la reputación, especialmente en los jóvenes.

Por ello, la introducción de programas de educación sexual y ética de la IA en los colegios es una necesidad impostergable. No se trata solo de alfabetización digital, sino de formar ciudadanos críticos capaces de discernir entre contenido real y sintético. Es fundamental educar sobre el consentimiento digital, la salud sexual, la responsabilidad en línea y, sobre todo, la empatía. Esta formación integral, un esfuerzo conjunto de familias, escuelas y el Estado, es la única vía para empoderar a las nuevas generaciones para que naveguen el complejo paisaje digital de forma segura y ética.

En conclusión, la protección de los menores no puede ser una consideración secundaria; debe ser un principio rector inquebrantable en el desarrollo y la regulación de la IA. El Estado de Chile, junto con la sociedad civil y el sector privado, tiene la responsabilidad ineludible de establecer marcos regulatorios robustos, invertir en la aplicación de la ley y, fundamentalmente, priorizar la educación como la herramienta más poderosa. Solo de este modo se logrará que la IA pueda mantener un balance entre el impulso innovador y los límites éticos, entre la autonomía y la rendición de cuentas y así cimentar un mañana digital que sea íntegro, justo e inclusivo para toda persona.