Salud
Nacional | Nacional | Nacional - Publicado hace 157 dias

El impacto de las “Deepfakes” en la salud mental

#7824 | 17 de Junio del 2024

Desde escolares hasta superestrellas como Taylor Swift o Rosalía están siendo víctimas de pornografía falsa generada con deepfake, una tecnología que opera con Inteligencia Artificial (IA) con la que se producen videos, imágenes o audios que permiten la manipulación y desarrollo de contenido multimedia falso, pero muy realista.

La pornografía que se genera con el deepfake es increíblemente dañina para la salud mental de los niños y jóvenes, y las mujeres son quienes se han convertido en las principales víctimas. Así lo demuestra una investigación realizada por Sensity AI (software que detecta manipulación o alteraciones en IA), que cita un artículo de la revista del Instituto Tecnológico de Massachusetts que revela que el 95% de los vídeos deepfake en línea, son pornografía sin consentimiento; y en el 90% de los casos las protagonistas son mujeres.

Ser víctima de estos ataques, como sucedió con las alumnas de un reconocido colegio de la capital, dondealguno alumnos varones crearon y viralizaron imágenes de sus compañeras desnudas, tiene el potencial de infligir cuadros de ansiedad reactivos a las víctimas que pueden llegar a ser graves.

Pero la pornografía no solamente afecta a las víctimas, sino que también a los usuarios: los últimos metaanálisis han demostrado una intensa liberación de Dopamina en el cerebro, similar a lo que se produce con el uso de drogas adictivas, y en algunos estudios incluso se ha informado una disminución en el volumen del área estriatal del cerebro, que estaría asociada a los efectos neurotóxicos; además de los numerosos estudios que demuestran que la pornografía afecta negativamente en el comportamiento sexual de los adolescentes.

Desgraciadamente este fenómeno es un problema a nivel global, y durante los últimos días nos hemos enterado de situaciones similares en colegios de Australia y EEUU. La gran diferencia es que en esos países la legislación está mucho más avanzada: el gobierno australiano ha presentado una ley que criminaliza la distribución de pornografía deepfake, con penas de hasta seis años de prisión por compartir material sin permiso, y hasta siete años si el infractor creó el contenido.

Por todo lo anterior, resulta crucial proporcionar educación a nuestros niños y adolescentes sobre la seguridad en internet y concientizar sobre las consecuencias asociadas al mal uso de la tecnología y uso de pornografía.

Las plataformas digitales y los legisladores deben además tomar medidas para proteger a las víctimas, desarrollando tecnologías para detectar y eliminar rápidamente el contenido realizado con deepfakes, e implementando leyes contra la creación y distribución de éstos.