Alertan sobre imágenes falsas creadas con IA y fraudes que usan rostros conocidos
La segunda parte de la campaña sobre inteligencia artificial advierte sobre deepfakes, suplantaciones y contenidos manipulados que pueden circular en redes, aplicaciones y sitios web.
Imágenes y voces que parecen reales, pero no lo son
La creación de imágenes, videos y audios con inteligencia artificial abrió nuevas posibilidades, pero también facilitó la circulación de contenidos falsos cada vez más difíciles de detectar. Entre los riesgos señalados aparecen las estafas que utilizan voces, rostros y mensajes generados o modificados con IA.
Una de las advertencias está relacionada con el uso de figuras conocidas para promocionar productos o servicios sin autorización. Los estafadores pueden recrear la imagen y la voz de personas famosas para difundir mensajes que aparentan ser auténticos.
Entre los casos mencionados figuran videos de Lionel Messi tocando la guitarra en la playa, hablando con fluidez en otros idiomas o promocionando una aplicación de apuestas online como fuente de ingresos. El problema aparece cuando quienes reciben esos contenidos no verifican si son reales antes de compartirlos o tomar decisiones.
También pueden circular canciones modificadas con voces de otros artistas, temas inéditos atribuidos a cantantes fallecidos e imágenes editadas para ubicar a determinadas personas en contextos que nunca existieron.
Deepfakes, privacidad y consentimiento
La tecnología conocida como deepfake permite crear archivos falsos, como imágenes y videos, con un nivel de realismo que puede llevar a confusión. Estas herramientas pueden utilizarse para difundir información falsa o alterar la percepción sobre una persona, una situación o un hecho.
Otro de los riesgos es la manipulación de imágenes reales para crear deepnudes. Este tipo de contenido puede representar una forma grave de ciberacoso y una vulneración de la integridad sexual de las personas.
La advertencia también incluye situaciones en las que se generan imágenes a partir de fotos personales sin consentimiento. A eso se suma la creación de retratos basados en descripciones verbales o en fotografías obtenidas sin permiso.
Antes de reenviar un video, una imagen o una publicación, se recomienda revisar la fuente y comprobar su legitimidad. Que un contenido parezca creíble o incluya a una persona famosa no asegura que haya sido publicado por ella ni que la información sea verdadera.
Recomendaciones para un uso más seguro
Entre las medidas sugeridas se encuentran verificar las fuentes de información, mantener actualizados los dispositivos y aplicaciones, y evitar compartir datos personales que no sean necesarios.
También es importante revisar los permisos solicitados por cada aplicación e informarse sobre las políticas de privacidad antes de usar un servicio. Los asistentes de voz deben apagarse cuando no estén en uso.
La inteligencia artificial puede ofrecer herramientas para la creación de imágenes, pero su uso indebido plantea desafíos vinculados con la privacidad, el consentimiento y la difusión de información falsa. La prevención empieza por detenerse, revisar y no compartir contenidos dudosos.
Ante dudas o consultas, se puede escribir a ciberseguridad@ba-csirt.gob.ar o enviar un mensaje privado a las redes del organismo.