Deepfakes sexuales: de una escuela porteña a una facultad sanjuanina, sin escala

La inteligencia artificial abrió un nuevo escenario de preocupación en las comunidades educativas. En las últimas semanas, dos casos que salieron a la luz en Buenos Aires y San Juan pusieron en evidencia una problemática que tiene un denominador común: la creación de imágenes sexuales falsas de estudiantes a partir de fotografías reales, sin autorización de las personas afectadas.

Uno de los episodios se registró en el Colegio Modelo Lomas, en Lomas de Zamora, donde familias denunciaron que alumnos habían utilizado herramientas de inteligencia artificial para generar imágenes de sus compañeras desnudas y que el material se difundía e incluso se comercializaba. El otro ocurrió en la Facultad de Ingeniería de la UNSJ, donde un estudiante quedó bajo investigación por la presunta creación de deepfakes sexuales de compañeras. En ese expediente, las denuncias llegaron a 16.

Aunque los hechos se produjeron en ámbitos educativos diferentes y presentan particularidades propias, las coincidencias entre ambos encendieron las alarmas: fotografías que originalmente no tenían contenido sexual habrían sido manipuladas para generar imágenes falsas, con el agravante de que las víctimas pertenecían al mismo entorno educativo que las personas señaladas.

El mecanismo denunciado en ambos casos parte de imágenes reales de las estudiantes. Mediante herramientas de inteligencia artificial, esas fotografías habrían sido modificadas para simular desnudos o representar situaciones sexuales inexistentes.

La particularidad de los deepfakes es que pueden producir imágenes de apariencia convincente sin que la persona retratada haya participado en la escena. En estos episodios, el problema no se limita a la falsedad del contenido: las imágenes se habrían creado sin consentimiento y utilizando la identidad de las estudiantes para atribuirles una representación sexual que no les pertenece.

Tampoco es necesario que una víctima haya compartido fotografías íntimas para quedar expuesta a esta clase de manipulación. Una imagen común, tomada de redes sociales o de otros espacios digitales, puede convertirse en materia prima para generar contenido sexual falso.

En los dos establecimientos, además, las personas afectadas y los señalados pertenecían a una misma comunidad educativa. Esa cercanía agrega otra dimensión al problema: el material puede circular entre compañeros, multiplicar la exposición y afectar la convivencia incluso dentro de los espacios donde las víctimas estudian.

En San Juan, la investigación se conoció públicamente después de que se denunciaran las presuntas maniobras atribuidas a un estudiante de Ingeniería. Con el avance de las actuaciones, la cantidad de presentaciones llegó a 16, lo que amplió la dimensión del expediente. La causa quedó bajo investigación de la UFI CAVIG. Según la información difundida, se realizó un allanamiento en el domicilio del estudiante y se secuestraron dispositivos electrónicos para analizar su contenido. Entre los elementos incautados había un teléfono celular, una tablet y una computadora.

Los investigadores debían determinar qué material se había generado, si existían archivos vinculados con las denunciantes y si las imágenes habían sido almacenadas o compartidas. Al momento de las publicaciones consultadas, el estudiante no había sido imputado penalmente.

En Lomas de Zamora, en tanto, el caso tomó estado público a partir de las denuncias de familias de alumnas del Colegio Modelo Lomas. Las publicaciones periodísticas dieron cuenta de varias estudiantes afectadas y de la presunta participación de más de un alumno. Las estimaciones sobre la cantidad de víctimas variaron entre las distintas informaciones difundidas.

Allí, las denuncias incluyeron una acusación adicional: las imágenes no solo se habrían creado, sino que también se habrían difundido por internet y comercializado. Las familias denunciaron, además, que el material habría llegado a otros ámbitos educativos. Esa presunta venta constituye una diferencia relevante respecto de lo que se había informado públicamente sobre el expediente sanjuanino, donde el eje estaba puesto en determinar el alcance de la creación y la posible circulación de las imágenes.

La distancia entre una escuela secundaria bonaerense y una facultad universitaria sanjuanina no impidió que ambos casos expusieran una problemática similar. En uno, las víctimas son adolescentes; en el otro, las denunciantes son estudiantes universitarias. Sin embargo, en ambos episodios la inteligencia artificial habría sido utilizada para producir representaciones sexuales falsas de mujeres sin su consentimiento.

La diferencia de edades también tiene implicancias jurídicas. En el caso bonaerense, las publicaciones señalaron la intervención del fuero de Responsabilidad Penal Juvenil. En San Juan, la investigación se desarrolla en el ámbito del Ministerio Público Fiscal provincial.

El encuadre legal no es necesariamente idéntico. La calificación depende de las características de las imágenes, las edades de las personas involucradas, la forma en que se produjeron y las circunstancias de su eventual difusión. La creación de imágenes sexuales falsas tampoco debe equipararse automáticamente con la producción de material de abuso sexual infantil auténtico: son cuestiones que requieren un análisis jurídico específico.

Más allá de esas diferencias, los dos episodios comparten una señal de alerta: la posibilidad de utilizar herramientas de inteligencia artificial para vulnerar la intimidad y la imagen de una persona sin necesidad de acceder a fotografías íntimas reales. La aparición de denuncias en dos comunidades educativas distintas vuelve a poner sobre la mesa los desafíos que enfrentan las instituciones, las familias y la Justicia ante una tecnología que facilita la manipulación de imágenes y que puede multiplicar el daño cuando el contenido se comparte.

En ese contexto, los casos de Lomas de Zamora y San Juan muestran que el problema no se agota en quién creó una imagen falsa. También importa cómo se obtuvo la fotografía original, quiénes participaron en la manipulación, si hubo difusión o comercialización y qué medidas pueden adoptarse para proteger a las víctimas mientras avanzan las investigaciones.

El estudiante de Ingeniería investigado por crear "deepfakes" con IA afronta 16 denuncias

El estudiante de Ingeniería investigado por crear "deepfakes" con IA afronta 16 denuncias

Denuncian que alumnos crearon imágenes sexuales falsas de sus compañeras con IA y las vendían

Denuncian que alumnos crearon imágenes sexuales falsas de sus compañeras con IA y las vendían