Era septiembre de 2023 cuando Eli recibió una llamada de su hija. Desesperada y entre lágrimas, le confesó que su rostro había sido editado y montado sobre la imagen de una mujer desnuda, y había sido difundida en un grupo de Telegram integrado exclusivamente por hombres. Se llamaba “Chicas de Sanje y la Zona”, en referencia a San Jerónimo Sud, una pequeña localidad santafesina de apenas 3000 habitantes. Sus integrantes solicitaban imágenes de mujeres del pueblo, y una persona las generaba con inteligencia artificial (IA) para luego compartirlas con otros hombres de la zona. En ese grupo circularon imágenes de más de 80 mujeres del pueblo, de las cuales 18 se animaron a denunciar.
Fue al reunirse con algunas de ellas que Eli descubrió dos verdades que cambiarían su vida para siempre. La primera: su hija no era la única víctima. Ella también aparecía desnuda en esas creaciones, tan realistas como perturbadoras. La segunda: quien había hecho esas imágenes no era un desconocido, sino su vecino de toda la vida, al que seguiría cruzándose en la calle sin que enfrentara consecuencia alguna. ¿El motivo? Lo que hizo no era considerado un delito en la Argentina. Y, hasta el día de hoy, todavía no lo es.
SIN MARCO LEGAL Y EN UNA RED SIN REGULACION
Las imágenes sexuales y pornográficas de mujeres generadas con inteligencia artificial entran en el marco de lo que se conoce como deepfakes [ultrafalsos], que consisten en la creación o edición de imágenes con inteligencia artificial de personas reales o inexistentes. La problemática apareció en 2017 a la par del crecimiento de la IA en el mundo. Los casos empezaron a surgir en diferentes países. Muchos se originaron en foros de la red social Reddit, donde las deepfakes sexuales buscaban alterar videos de actrices o cantantes y volverlos pornográficos.
“Vos toda tu vida intentas hacer lo correcto y, solo con un clic, un tipo te arruina la vida”, lamentó Eli. El caso de San Jerónimo Sud fue uno de los más reconocidos en la Argentina. Comenzó el 15 de septiembre de 2023, cuando varias mujeres del pueblo empezaron a recibir mensajes de sus vecinos y conocidos advirtiendo que había imágenes pornográficas de ellas circulando en Telegram, una red de mensajería conocida por su falta de regulación sobre los contenidos y en paralelo, una extrema protección sobre la identidad de los usuarios que difunden, como en este caso, material pornográfico o violento.
El equipo de Ley Olimpia en la Argentina contabilizó, al menos, 30.000 grupos en el país que propagan material íntimo, sexual, de explotación sexual de niñas, mujeres y adolescentes, en muchos casos, creado con inteligencia artificial. Estos chats proliferan principalmente en Telegram.
CAYO POR OTRO DELITO
Nilda se enteró cuando una amiga la llamó. “Ella me dijo que sabía que no era yo porque se daba cuenta. Pero ella es mi amiga de toda la vida y me conoce. Tuve que llamar a mi hijo, que en ese entonces tenía 21 años, para explicarle que habían circulado imágenes, pero que no era yo”, recordó. Nilda se encontró con otras mujeres que decían haber sufrido lo mismo y juntas crearon un grupo de Whatsapp, alarmadas ante algo de lo que no tenían conocimiento alguno.
“Fuimos a hablar con la presidenta comunal acá en el pueblo, pero dijo que se trataba de algo del ámbito privado. Fuimos a la comisaría, pero no sabían cómo tomarnos la denuncia”, explicó. Se dirigieron a un juez comunitario de pequeñas causas, quien las llevó a un juzgado y las escuchó una por una. Aun así, era inútil: no había manera de proceder.
Las víctimas denunciaron al número de teléfono en Telegram, que en esa red figuraba como A.O. Sin embargo, al vincularlo al Whatsapp, figuraba con el nombre de una mujer que vivía en el pueblo -enfrente de la casa de toda la vida de Eli-, y que, un día antes de la presentación de las víctimas, había denunciado que le hackearon el celular. Ella y su esposo eran los principales apuntados. “Parecía un delivery. Había gente que pedía y consumía. Escribía ‘¿tenés la foto de tal chica de San Jerónimo?’ y esta persona se dedicaba a idearla. Había comentarios horribles”, señaló Nilda.
“Yo tuve que ir a avisarle a mis padres porque vivimos enfrente. Mi hija tiene su negocio enfrente y yo a 20 metros. Fue una situación rara y perversa”, agregó Eli.
Para colmo, Telegram inhabilita la posibilidad de sacar captura de pantalla a las conversaciones, lo que hizo que las víctimas tengan que sacarles fotos desde otro celular a cada uno de los chats. 18 mujeres denunciaron lo ocurrido en la fiscalía de San Lorenzo. Tiempo después, hubo un allanamiento a la casa de la pareja, donde secuestraron el teléfono del hombre de 49 años y descubrieron que las fotos estaban en ese celular.
Sin embargo, el allanamiento no se relacionó con la denuncia por las deepfakes, sino por un antecedente penal que el hombre posee por distribución y circulación de material pornográfico a raíz de una presentación de la ONG Missing Children. Le secuestraron seis celulares, dos pendrives, una notebook, 29 discos, una cámara y cinco archivos de memoria. Encontraron imágenes sexuales creadas con IA de mujeres adultas y menores de edad. También identificaron videos e imágenes de pornografía infantil de niños desconocidos. A pesar de que identificaron más de 48.000 imágenes en los dispositivos, el hombre no fue detenido y, junto a su mujer y su hija pequeña, se mudaron a Roldán, una localidad aledaña. Hasta hoy viven impunes.
Fuente: La Nación