En las escuelas de Córdoba es cada vez más frecuente un conflicto que está preocupando a docentes y padres y que genera mucho malestar en las víctimas. Son chicos que toman fotografías sin consentimiento de sus compañeras (generalmente de contenido sexual) y las distribuyen u otros las modifican utilizando la inteligencia artificial poniendo el rostro de una joven y el cuerpo desnudo de una imagen artificial. En uno de los casos, el joven luego de modificar esa imagen la subió a una página porno, lo cual agravó la situación por la exposición que implica para la identidad de esa joven.
A pesar de los intentos por legislar y penalizar este tipo de situaciones, aún no hay nada concreto. Pero la penalización en sí misma tampoco solucionaría un problema que requiere un tratamiento previo para evitar que el conflicto exista y que se genere tanto daño en las chicas afectadas, teniendo en cuenta que en su mayoría son adolescentes.
En Córdoba dos casos recientes causaron preocupación en sus comunidades, aunque especialistas en educación advierten que sucede en muchos colegios y que es cada vez más frecuente.
En el colegio San José esta semana se descubrió que un chico había mirado fotos de una compañera en una computadora de la escuela aprovechando que la joven había olvidado cerrar su sesión. El mismo compañero habría llamado a otros para que vieran esas imágenes. Dos de ellos habrían compartido estas imágenes, por lo que fueron apartados del colegio. La familia de la joven hizo una denuncia en la Fiscalía Penal Juvenil de 1° Turno para que investigue el caso como “Producción de pornografía infantil”.
Luego hubo otro conflicto que surgió de las sanciones y un reto de la directora que derivó en que ella misma fuera sancionada por la institución tras haber usado términos indebidos. Esto derivó en una toma de los estudiantes a la escuela por considerarlo injusto, pero ya entra en toro tipo de conflicto.
El mes pasado en la Escuela Superior de Comercio Manuel Belgrano se trabajó en un curso luego de que un joven tomó imágenes del rostro de algunas compañeras, creó fotos desnuda de ellas con inteligencia artificial y las subió a una página porno. Esa causa se tramita en la Justicia en la Fiscalía de Instrucción de Violencia Género y Familiar.
Las consecuencias de la exposición
Las consecuencias que esta exposición genera en las personas afectadas, en su gran mayoría, mujeres jóvenes, puede traer graves consecuencias a su salud mental.
La vergüenza, la manipulación hacia su intimidad a través de las herramientas digitales tienen alcances inesperados una vez que comienzan a compartirse. Alguien que comparte una foto a un grupo de amigos y que a su vez, comparten con otras personas y entonces tiene un camino que puede ser infinito. Lo mismo pasa cuando se sube a una página web.
En Buenos Aires una joven de 15 años, Ema, oriunda de la localización de Longchamps se quitó la vida el 24 de agosto luego de que su novio viralizó un video íntimo de ella.
La violencia digital en la Justicia y el Congreso
La violencia de género digital no está tipificada como delito en el Código Penal y por ello se dificulta su tratamiento en la justicia. A veces puede encuadrar como delito cuando la imágenes distribuidas son de chicas menores de 18 años porque entra en el delito de “producción de pornografía infantil” o en otros casos cuando hay una extorsión o amenazas por la distribución de imágenes.
Pero fuera de estas excepciones es complejo que se pueda resolver en la justicia.
“La creación e imágenes de contenido sexual y posterior difusión masiva en internet puede traer consecuencias desde el punto de vista penal, encuadrables en el delito de lesiones psicológicas. Si la víctima es mujer, podría ser encuadrado en un caso de violencia de género en contexto digital”, explicó el fiscal Cuenca Tagle.
Quien aclaró: “Para determinar si hay delito, es crucial contar con peritajes psicológicos que evalúen si hay daño y la extensión del mismo, sumado a testimonios de profesionales que hayan abordado a la víctima, entre otros elementos de prueba”.
Fabiana Pochettino, fiscal de Cámara de Cruz del Eje sostiene que hay un vacío legal en el tema y que es necesario legislarlo para tener herramientas claras. “Este tipo de casos suele ingresar a la justicia como por una cuestión de violencia de género, o inclusive también a nivel civil, con una reparación por una denuncia de daños y perjuicios también. Pero desde lo penal no tenemos una respuesta porque no hay una figura penal que abarque este tipo de comportamientos. Obviamente que se ingresa como violencia de género, el juez o la jueza de violencia de género impondrán medidas de restricción, de acercamiento, de poder levantar esas imágenes de las redes, sacarlas, etcétera. Pero no dejan ser medidas de ese porte, no medidas sancionatorias como es el tema del sistema penal”, explicó.
La fiscal recordó que Argentina tiene la ley 26.485, que es la de Protección Integral para prevenir, sancionar y erradicar la violencia contra las mujeres y allí en esa ley ya está contemplada la violencia digital “pero con el código de fondo, no la tenemos receptada, excepto para la creación de la pornografía infantil que está penado cuando las imágenes realmente representen a menores de edad pero también es discutible porque en este tipo de casos donde se usa IA los cuerpos no serían de esos menores de edad”, aclaró. “Entonces lo cierto es que hoy a nivel penal existe un vacío que sí o sí cuanto antes hay que sentarse a discutir y legislar al respecto porque esto no tiene freno, esto no va a parar”, adviritó Pochettino y recordó la necesidad de legislar al respecto.
En el Congreso de la Nación hay proyectos de ley para tipificar todas las situaciones de violencia de género en entornos digitales, como el proyecto Belén, aunque aún no hay sido sancionados, están en tratamiento.
La Ley Olimpia, que sí fue aprobada el año pasado, reconoce como violencia de género digital la distribución de imágenes de contenidos sexual sin consentimiento. Es decir, le da un marco conceptual pero no introduce cambios en el Código Penal. De cualquier forma es una primera ley que servirá de marco en un futuro para la modificación del Código Penal.
Educación y prevención, la verdadera solución
Tres especialistas de distintas áreas coinciden en que es necesaria el pronto tratamiento y prevención de estos casos, algo que involucra a escuelas, jóvenes y sus familias.
Mariana Savid, psicopedagoga especializada Educación en la Cultura Digital y en ESI, destaca que la falta de educación digital en las escuelas deja a los adolescentes desprotegidos frente al mal uso de la tecnología. “Nadie les enseñó a usar la tecnología de manera saludable, positiva. Hay que generar espacios de confianza en los que los chicos puedan hablar sin ser juzgados y construir soluciones juntos. Muchas veces ni siquiera los adultos estamos formados en este tema, lo que nos obliga a aprender junto con ellos,” señaló Savid.
Para ella, el enfoque educativo debe ser preventivo y participativo: “Invito a los chicos a hacer campañas de concientización y a implicar a sus familias. Necesitamos sumar cultura digital para que todos, no solo los estudiantes, puedan acompañar estos cambios tecnológicos de forma responsable”.
Por su parte, Natalia Bortagaray, desarrolladora experta en género e inteligencia artificial, pone el foco en el desafío ético que plantea esta tecnología. “La IA es una herramienta poderosa que puede resolver problemas complejos, pero también puede usarse para el mal, como vemos en estos casos. La IA no tiene ética; depende de quienes la desarrollan y usan. Por eso es urgente regular su uso, garantizar que los datos con los que se entrenan los modelos sean seguros y eliminar sesgos que perpetúan desigualdades,” explicó.
Bortagaray destacó que ya existen intentos por mitigar los malos usos de estas herramientas: “En la Unión Europea han comenzado a trabajar en regulaciones que prohíban ciertos usos de la IA, pero el problema es que esta tecnología también está disponible para usos no controlados. Esto plantea un desafío enorme, porque no basta con regular a las grandes empresas; también debemos pensar cómo abordar los usos caseros”.
Para la especialista la clave para prevenir este tipo de casos es “educar y sensibilizar, no solamente a los que están por detrás de las herramientas, sino también a los que los están usando”.
Finalmente, Javier Pallero, especialista en políticas públicas de internet, subraya la importancia de encontrar un equilibrio entre la regulación y los derechos humanos. “Prohibir tecnologías como la inteligencia artificial en su totalidad no es viable, porque también tienen usos legítimos, como la libertad de expresión. Pero las conductas dañinas, como la creación y difusión de imágenes sexuales no consentidas, deben ser penalizadas,” afirmó.
Pallero señala que, aunque la legislación argentina avanza lentamente, es fundamental incorporar la prevención en las escuelas. “La educación sexual integral debe incluir un componente de alfabetización digital. La prevención siempre es mejor que la penalización, porque muchas veces el daño ya está hecho y es irreversible,” concluyó.
El uso indebido de la inteligencia artificial para vulnerar la privacidad y la dignidad de adolescentes muestra la necesidad de acciones rápidas y a la altura. El abordaje debería incluir no sólo la sanción de leyes claras, sino también la implementación de programas educativos y campañas de concientización que lleguen a estudiantes, docentes y familias.
