OpenAI desmantela operación de influencia iraní con ChatGPT para generar noticias falsas
OpenAI informó el viernes que frustró una campaña de influencia iraní que utilizaba ChatGPT para generar noticias falsas y publicaciones sociales dirigidas a los estadounidenses. La compañía dijo que identificó y prohibió cuentas que generan contenido para cinco sitios web (en inglés y español) que se hacen pasar por medios de comunicación, difundiendo «mensajes polarizadores» sobre temas como la campaña presidencial de Estados Unidos, los derechos LGBTQ+ y la guerra en Gaza.
La operación fue identificada como «Tormenta-2035», parte de una serie de campañas de influencia que Microsoft identificó la semana pasada como «conectadas con el gobierno iraní». Además de las noticias, incluía «una docena de cuentas en X y una en Instagram» conectadas a la operación. OpenAI dijo que la operación no parecía haber ganado un impulso significativo. «La mayoría de las publicaciones en las redes sociales que identificamos recibieron pocos o ningún me gusta, acciones o comentarios», escribió la compañía.
Además, OpenAI dijo que en la escala de ruptura de la Brookings Institution, que evalúa las amenazas, la operación solo registró una calificación de Categoría 2 (en una escala del uno al seis). Esto significa que mostró «actividad en múltiples plataformas, pero no hay evidencia de que personas reales hayan recogido o compartido ampliamente su contenido».
OpenAI describió la operación como la creación de contenido para medios de noticias falsos conservadores y progresistas que apuntan a puntos de vista opuestos. Bloomberg dijo que el contenido sugería que Donald Trump «estaba siendo censurado en las redes sociales y se estaba preparando para declararse rey de Estados Unidos». Otro enmarcó la elección de Kamala Harris de Tim Walz como su compañero de fórmula como «una elección calculada para la unidad».
OpenAI agregó que la operación también creó contenido sobre la presencia de Israel en los Juegos Olímpicos y (en menor medida) la política venezolana, los derechos de las comunidades latinoamericanas y la independencia de Escocia. Además, la campaña salpicó el material pesado con comentarios sobre moda y belleza, «posiblemente para parecer más auténtico o en un intento de conseguir seguidores».
«La operación intentó jugar en ambos lados, pero no parece haber estado involucrada en ninguno de los dos», dijo Ben Nimmo, investigador de OpenAI Intelligence and Investigations. Bloomberg.
El fracaso de una operación de influencia se produce tras la revelación a principios de esta semana de que piratas informáticos iraníes atacaron las campañas de Harris y Trump. El FBI dijo que el asesor informal de Trump, Roger Stone, fue víctima de correos electrónicos de phishing. Luego, los piratas informáticos iraníes tomaron el control de su cuenta y enviaron a otros mensajes con enlaces de phishing. El FBI no encontró evidencia de que alguien en la campaña de Harris haya caído en el plan.
Este artículo apareció originalmente en Engadget en
FUENTE
