Alertan sobre chatbots de IA usados para fraudes y ataques digitales
Herramientas como BadGPT y FraudGPT pueden facilitar campañas de phishing, suplantaciones de identidad y otras maniobras que ponen en riesgo datos personales.
Chatbots diseñados para usos maliciosos
La expansión de la inteligencia artificial también abrió un frente de preocupación en materia de ciberseguridad. Entre las herramientas detectadas aparecen chatbots como BadGPT y FraudGPT, creados para asistir a hackers en actividades fraudulentas.
Estos sistemas utilizan como base modelos de IA de acceso abierto disponibles en internet. Esa característica puede dificultar su detección y permite que sean adaptados para usos no autorizados, según la información difundida.
La advertencia apunta a que estas herramientas pueden mejorar campañas de phishing, una modalidad que busca engañar a las personas para obtener información, contraseñas o datos personales mediante mensajes y sitios falsos.
Con IA, los ciberdelincuentes pueden crear páginas web que imiten a otras, redactar mensajes personalizados y suplantar identidades. También pueden recopilar datos de distintas fuentes en línea para armar perfiles detallados de posibles víctimas.
Riesgos para los datos personales
Los perfiles obtenidos a partir de información pública o disponible en la web pueden utilizarse en maniobras de fraude de identidad. Entre los ejemplos señalados figura la apertura de cuentas bancarias o la solicitud de tarjetas de crédito a nombre de otra persona.
Se identificaron más de 200 chatbots maliciosos en la dark web. Muchos de ellos se apoyan en modelos de IA de código abierto modificados mediante procesos conocidos como “jailbreaks”.
El jailbreak consiste en eliminar ciertas restricciones de seguridad de un modelo para habilitar usos que originalmente estaban bloqueados. El acceso libre a determinados modelos disponibles en la web suma un desafío, ya que algunos no cuentan con mecanismos de censura.
El crecimiento de estas herramientas obliga a prestar más atención a los mensajes que llegan por correo electrónico, redes sociales o aplicaciones de mensajería. Un texto bien redactado o una página que parece conocida no garantizan que el contacto sea legítimo.
La prevención también pasa por conocer las amenazas
Las empresas líderes en inteligencia artificial trabajan en soluciones para mitigar los usos maliciosos de estas tecnologías. A la vez, el conocimiento sobre las herramientas empleadas por hackers puede servir para detectar y combatir amenazas de seguridad digital.
La educación y la concientización sobre ciberseguridad aparecen como aspectos centrales para que personas y organizaciones puedan reconocer señales de alerta y responder con mayor eficacia ante posibles intentos de fraude.
Ante dudas o consultas, se puede escribir a ciberseguridad@ba-csirt.gob.ar o enviar un mensaje privado a las redes del organismo.