Fakes con IA: páginas de Facebook pagan para mover mentiras sobre Éder

El fin de semana el candidato a la Alcaldía de Cali, Alejandro Éder, denunció que estaba circulando un audio que simulaba su voz y que había sido creado con inteligencia artificial (IA) para suplantarlo. 

La Silla Vacía encontró que el audio fue publicado inicialmente en Facebook por una página que solo ha compartido desinformación contra Éder y que, según la biblioteca de anuncios de Facebook, entre el 24 de julio y el 21 de octubre ha invertido 6,2 millones de pesos para difundir noticias falsas contra ese candidato en esa red social. 

Otras tres páginas de Facebook también han pagado por mover las mismas publicaciones con desinformación contra Éder. En total, entre las cuatro páginas han gastado 9,5 millones de pesos.

El audio denunciado por Éder dice: “Yo soy un hombre que le he dedicado su vida al servicio público. Soy un experto además en temas de seguridad y en reconciliación, construcción de paz, por eso siempre he pensado en convertir a Cali en zona piloto de diálogos con el ELN, como lo hice en la Habana con las Farc. Soy un convencido de que dialogando con ellos podemos llegar a acuerdos que acaben la violencia en la ciudad”. 

Éder aseguró que el audio no había sido grabado por él. Por otro lado, aunque no existen herramientas que permitan verificar de forma confiable los audios creados por una IA, hay elementos que demuestran que sería falso.

Por un lado, el audio se escucha como si fuera una entrevista de radio; tiene las interferencias y sonidos que se producen en las llamadas que se escuchan en emisoras radiales, como el hiss que es un ruido eléctrico que se produce en estas transmisiones. Pero no hay rastro de que esa grabación haya salido al aire. 

Al buscar en Google tampoco hay rastros de que Éder haya dicho públicamente que quiere que Cali sea una “zona piloto de diálogos con el ELN”. Ese es un indicio de que se trata de información falsa, porque si el candidato hubiera hecho esa propuesta, habría un cubrimiento en medios y no lo hay. 

La mención más relacionada, es una entrevista que dio el 14 de octubre de este año a El País de España, donde le preguntaron qué papel juega Cali para la paz total y él respondió: “La paz total de Colombia, y en especial del suroccidente colombiano, pasa por Cali. Punto. Si Cali está bien social y económicamente, empieza a proyectar desarrollo a la región. Tenemos que trabajar para estabilizar a la ciudad”.

En el debate de los candidatos a la Alcaldía de Cali de Noticias Caracol en alianza con La Silla Vacía, el candidato Roberto “El Chontico” Ortiz afirmó que “Éder fue a entregarle el país a las Farc y ahora quiere entregar la ciudad al ELN”. 

El 17 de octubre, Éder anunció que denunciará a Ortiz por injuria y calumnia, y además lo responsabilizó por las vallas y volantes con mensajes similares al de Ortiz que circularon en Cali ese fin de semana.

La campaña de desinformación en Facebook contra Éder

La página “Actualidad Política Valle del Cauca” fue creada el 2 de febrero de este año y tiene 15 publicaciones. De esas, 13 son fotos y videos contra Éder; uno es un video a favor de Miyerlandi Torres, también candidata a la Alcaldía de Cali; y uno de una mujer llamada Sandra Rojas que critica la Alcaldía de Palmira. 

Las publicaciones contra Éder tienen mensajes desinformadores, como el supuesto audio creado por una IA que publicó el 20 de octubre a las 4:06 de la tarde. Tras esa publicación, el audio se hizo viral y Éder lo desmintió dos días después. 

Según la biblioteca de anuncios de Facebook, esa página ha pagado hasta 800 mil pesos por algunas publicaciones para que lleguen a cerca de un millón de usuarios:

Y el pago es estratégico: va dirigido principalmente para públicos de Cali, de donde es el candidato Éder. 

Por ejemplo, la publicación del audio falso creado aparentemente por IA, fue promocionado del 20 al 22 de octubre, los días que el audio fue viral en redes sociales. 

El pago que hizo la página por promocionar esa publicación fue de entre 500 mil y 600 mil pesos (Facebook no brinda la cifra exacta) y estaba estimado que llegara a un millón de personas. En total tuvo entre 125 mil y 150 mil impresiones. 

No es la única página que ha pagado por mover desinformación contra Éder 

Además de Actualidad Política, otras tres cuentas de Facebook han publicado información falsa sobre el candidato y han pagado para moverla.

Una de ellas es Juventud Opina Colombia, que fue creada en julio de 2021. En su perfil hay nueve publicaciones, todas ellas contra Éder. 

El 20 de octubre a las 04:09 de la tarde, a la misma hora que Actualidad Política, este perfil también compartió el audio viral donde supuestamente el candidato anuncia que “convertirá a Cali en zona de negociación con el ELN”.

Entre el 24 de julio y 21 de octubre esta página invirtió un total de 871.340 para mover publicaciones contra Éder.

Otra de las cuentas es Chismecitos Cali. Este perfil fue creado el 27 de abril de este año y actualmente cuenta con más de mil seguidores. La cuenta tiene 10 publicaciones y, al igual que las de Juventud Opina y Actualidad Política, todas son contra Éder. 

Chismecitos Cali también publicó el supuesto audio de Éder creado con IA, el mismo día y a la misma hora de Actualidad Política. 

Entre el 24 de julio y 21 de octubre esta página pagó un total de 2.379.839 para promocionar publicaciones contra Éder. 

La tercera página es La Nota Caleña, creada en marzo de este año. Solo tiene una publicación del 23 de octubre contra Éder, en la que falsamente dice que él se alió con el alcalde Jorge Iván Ospina, y como prueba muestra una foto de la campaña de 2019, cuando ambos fueron candidatos. 

Esa misma foto también fue publicada el 23 de octubre, con segundos de diferencia, por Actualidad Política, Juventud Opina Colombia y Chismecitos Cali. 

La Nota Caleña solo ha invertido cerca de 110 mil pesos promocionando esa publicación.

Las páginas han publicado otras desinformaciones contra Éder

Además del audio falso, Actualidad Política ha publicado otras desinformaciones contra Éder que también ha promocionado en Facebook.

El 16 de octubre publicó la captura de pantalla de un supuesto trino de Éder que decía que él le propondrá al gobierno nacional que “en Cali podamos hacer una mesa de diálogo con el ELN para buscar una salida al conflicto”.

Pero la publicación es un montaje. Una búsqueda avanzada en X del texto del trino no arrojó resultados. El 14 de octubre de 2023, día en que supuestamente Éder publicó ese trino, el candidato solo compartió una publicación sobre el Tren de Cercanías del Valle, que conectará los municipios del área metropolitana de Cali. 

Y en otras redes sociales como Facebook e Instagram no hay rastros de que el candidato haya compartido una publicación igual o parecida a la que difundió Actualidad Política Valle del Cauca. 

Además, la publicación hace la misma afirmación sin sustento de la supuesta propuesta de “zona piloto de diálogos con el ELN” que está en el audio falso y que también aparece en vallas y volantes que fueron repartidos en Cali el fin de semana del 16 de octubre.

Esa publicación falsa también fue promocionada en Facebook entre el 16 y el 19 de octubre. La página pagó entre 200 y 250 mil pesos y tuvo entre 50 mil y 60 mil impresiones. 

Este tipo de campañas sucias por medio del pago de anuncios de Facebook ya ha sido usada antes. En las elecciones presidenciales del año pasado, La Silla Vacía encontró que diez páginas de Facebook, coordinadas entre sí, pagaron $309 millones por promocionar en esa red una campaña sucia con elementos de desinformación contra los entonces candidatos Gustavo Petro y Sergio Fajardo.