El pasado mes de julio, los científicos revelaron un estudio sobre “X”, antes conocido como Twitter, donde aseguran que la plataforma tiene un problema real con los robots tras encontrar 1,140 cuentas impulsadas por inteligencia artificial que “publican contenido generado por máquinas y roban selfies para crear personas falsas”.
La investigación, realizada por un equipo de estudiantes y profesores del Observatorio de Redes Sociales de la Universidad de Indiana, encontró una red de cuentas falsas en X en lo que llamaron la botnet “Fox8″, que supuestamente utiliza ChatGPT para generar contenido que “tiene como objetivo promover sitio web sospechoso y difundir contenido dañino”.
Cuentas Bot
Las cuentas de bot, un programa de computadora que actúa como una cuenta automatizada, intentan convencer a las personas para que inviertan en criptomonedas falsas, e incluso se piensa que roban de billeteras criptográficas existentes, descubrieron los científicos Kai-Cheng Yang y Filippo Menczer.
Sus publicaciones a menudo incluyen hashtags como #bitcoin, #crypto y #web3, y con frecuencia interactúan con cuentas administradas por humanos como la cuenta X centrada en criptografía de Forbes (@ForbesCrypto) y el sitio de noticias centrado en blockchain Watcher Guru (@WatcherGuru). encontró el estudio.
Más allá del saqueo de criptomonedas, se descubrió que las cuentas de Fox8 “distorsionaban las conversaciones en línea y difundían información errónea en diversos contextos, desde elecciones hasta crisis de salud pública”, dijeron Yang y Menczer.
Objetivo
El objetivo de una botnet es enviar spam a X usuarios con una gran cantidad de publicaciones generadas por IA. Al tuitear con frecuencia, estas publicaciones tienen una mayor probabilidad de ser vistas por un mayor número de usuarios legítimos, lo que aumenta la probabilidad de que un humano haga clic en una URL fraudulenta.
Para parecer más humana, esta botnet, una red de cientos de cuentas de spam dañinas, no sólo captura fotos de usuarios reales sino que también “interactua con frecuencia entre sí a través de retweets y respuestas”, cuenta con descripciones de perfil e incluso “tiene 74 seguidores, 140 amigos y 149,6 tweets de media”.
Estos elementos sugieren que “los robots de Fox8 están participando activamente en actividades en Twitter [ahora conocido como X]” y los hacen más creíbles para el usuario humano.
Los perfiles de Fox8, la mayoría de los cuales “fueron creados hace más de siete años, y algunos se crearon en 2023″, “comúnmente mencionan criptomonedas y cadenas de bloques”, encontraron investigadores de la Universidad de Indiana.
El estudio señaló que las botnets como Fox8 históricamente han sido muy obvias ya que tradicionalmente publicaban contenido poco convincente y tweets con un lenguaje poco natural.
Sin embargo, los avances en los modelos de lenguaje, específicamente ChatGPT, han hecho que las cuentas dentro de Fox8 sean cada vez más difíciles de detectar al “mejorar significativamente las capacidades de los bots en todas las dimensiones”.
