La Policía Nacional ha alertado de la presencia de un perfil falso, creado con inteligencia artificial, que se hace pasar por una agente de la autoridad en redes sociales. Así lo han advertido a través de un mensaje publicado en X (antes Twitter), donde adjuntan material gráfico en el que aparecen diversas fotografías.
"No es esperes ver a esta 'policía' en nuestras redes sociales ni en nuestras calles porque ni es policía ni es real", señalan. Bajo el usuario de "saritapolicía" en Instagram, la cuenta muestra lo que podría ser un perfil al uso de cualquier persona. Sin embargo, los agentes advierten de que se trata de un engaño.
La cuenta tiene más de 110.000 seguidores y aún no ha sido eliminada. En ella se pueden ver múltiples fotografías de una joven de cabello rubio que porta el uniforme de la Policía Nacional. Incluso tiene vídeos conduciendo lo que a priori parece un coche policial real. Hasta una fotografía en medio de la Plaza del Sol de Madrid, junto al coche patrulla y con el uniforme, forma parte de la galería de esta joven creada con inteligencia artificial.
Deepfake: riesgos del uso indebido de IA
Este tipo de casos se conoce como 'deepfake'. Atendiendo a su definición, es aquel contenido multimedia que es falso pero altamente realista. El término combina 'deep learning' y 'fake' (falso), y utiliza redes generativas antagónicas mediante las cuales un generador crea el contenido sintético y un discriminador lo refina hasta que es capaz de engañar incluso a algoritmos.
Ante este escenario, los expertos advierten de los riesgos que conlleva el uso indebido de la inteligencia artificial, como la generación de desinformación, propaganda política, fraudes financieros, robo de identidad, ciberespionaje y pornografía no consentida, entre otros.
