Que una escuela de un pueblo de España, llamado Almendralejo, haya sufrido un notorio caso de deepfake, tiene que ser una alarma para tomar acciones que logren evitar este delito. Estudiantes, menores de edad, usaron el rostro de sus compañeras de clase y lo pasaron por una app para generar contenido sexual explícito.
La situación escala hacia los ciudadanos comunes debido a que cada día existen más apps para poder generar contenido falso, en el que las personas que lo sufren no saben como escudarse para no ser víctima.
El fenómeno es de escala mundial y América Latina no es la excepción. En diferentes portales de Brasil, Perú, México, Ecuador y Argentina vemos con mucha frecuencia diferentes casos de deepfake en los que quienes suelen ser las víctimas son las mujeres.
El modus operandi es el mismo que el de la escuela de Almendralejo. Estudiantes de una escuela agarran las fotos de sus compañeritas y la inteligencia artificial hace el trabajo de poner los rostros en los cuerpos de mujeres desnudas.
Aparte del contenido sexual, hay también intentos de desestabilización política, ya que en Brasil hicieron un deepfake del expresidente Jair Bolsonaro, para posicionarlo como favorito en unas encuestas electorales.
¿Cómo cuidarse del deepfake?
Mario Micucci, Investigador de Seguridad informática de ESET Latinoamérica comenta que primordialmente hace falta una campaña de información, que en teoría debería llegar a la mayor cantidad de escuelas y comunidades posibles.
“Es importante aclarar que la tecnología no es el problema. La verdadera raíz está en la falta de educación digital que existe en los jóvenes. Si bien, los adolescente hoy están creciendo a la par del mundo tecnológico, es prioritaria la implementación de charlas, cursos y demás herramientas en las zonas educativas para entregar a estos niños y adolescentes buenas prácticas para el uso correcto de la IA”, señala el experto.
La empresa de ciberseguridad emite un comunicado en el que ofrece estos cinco consejos para poder cuidarse del deepfake.
- Cuidar lo que publicas en las redes sociales. Es importante considerar que lo que existe en la web sin protección es de uso público.
- Proteger tus cuentas. Hoy más que nunca la información está a un clic de distancia, por esto es esencial contar con perfiles privados en redes sociales para velar por la seguridad de tus datos y actividades cotidianas.
- Educación digital continua. Sin importar la edad del usuario, es imperativo el buen uso de la tecnología y evitar escenarios que puedan generar contenidos inapropiados que violenten la integridad de otra persona.
- Prestar atención al detalle es fundamental. Las imágenes creadas por la IA suelen tener pistas que las dejan al descubierto. Muchas personas no se dan cuenta de que circulan las imágenes hasta que les dice y, en algunos casos, son extorsionadas con la excusa de no difundirlas, por esto es importante mirar la fotografía para determinar si es real. En caso de no serlo, se debe denunciar a los organismos competentes. Dicho esto, también existen algunas herramientas como Google Reverse Image Search en línea que pueden ayudar a verificar la autenticidad de imágenes y videos.
- El video no coincide con la voz. Para los creadores de deepfake es un reto que la grabación de audio coincida con los movimientos y gestos de las personas. Es importante mirar atentamente los movimientos de la boca y rostro de la supuesta persona con la que se está conversando y verificar que coincidan con lo que se está escuchando.
