El algoritmo se mete en las urnas: cuando el caso extremo se volvió manual de instrucciones

En “El algoritmo se mete en las urnas”, la primera entrega de este análisis, contamos cómo la IA lleva diez años interviniendo en democracias. Esta segunda parte cuenta los casos donde se llegó tarde y el costo fue altísimo: en algunos, vidas humanas. En otros, daños enormes a la democracia. Que también son vidas humanas. Y en todos los casos, los mismos responsables: los desarrolladores, las empresas y los políticos que quieren ganar a cualquier precio. Los mismos que convirtieron la política en un negocio.

Myanmar no fue un accidente, fue un laboratorio

Myanmar es un país del sudeste asiático, entre India, China y Tailandia, con más de 50 millones de habitantes y una historia reciente marcada por dictaduras militares y conflictos étnicos. Facebook llegó ahí en 2011 y se convirtió, casi de inmediato, en la principal fuente de información del país. Para mucha gente, Facebook era internet. El ejército y grupos ultranacionalistas budistas aprovecharon eso para difundir odio sistemático contra la minoría musulmana rohingya. El algoritmo hizo el resto: optimizado para retener atención a cualquier costo, amplificó ese contenido de forma proactiva. Meta tenía estudios internos desde 2012 que advertían que sus algoritmos podían causar daños graves en el mundo real. Entre 2012 y 2017 recibió al menos 15 advertencias directas de activistas. No hizo nada.

En agosto de 2017, más de 700.000 rohingyas huyeron de una campaña de asesinatos, violaciones e incendios sistemáticos. El algoritmo no jaló el gatillo. Cargó el arma, apuntó y esperó.

Lo que importa para esta segunda parte no es repetir el horror. Es señalar lo que vino después: nadie fue a la cárcel. Meta no pagó indemnización. Y el algoritmo cambió muy poco. Ese es el verdadero manual: no es solo el horror, sino la impunidad que tienen.

Brasil 2018: el WhatsApp como arma de campaña

En la primera entrega mencionamos que Brasil tuvo que prohibir que los chatbots recomienden candidatos porque ya lo estaban haciendo. Pero hay una historia anterior que explica por qué llegaron a eso. En las elecciones presidenciales de 2018, redes de bots y tecnologías de IA inundaron WhatsApp con noticias falsas durante la campaña de Bolsonaro. La diferencia con Cambridge Analytica no era solo técnica: era que WhatsApp funciona en grupos cerrados, sin moderación, sin posibilidad de verificar, y con el peso social de un mensaje que te manda tu tío. No te lo manda una cuenta anónima. Te lo manda alguien de confianza. Eso cambia todo. Y Brasil lo aprendió tarde.

Filipinas: Facebook como fichero policial del Estado

En Filipinas, el 95% de los 115 millones de habitantes tiene un perfil activo en Facebook. El gobierno lo supo y lo usó. Desde 2018, bajo el gobierno de Duterte, el Estado creó la NTF-ELCAC — un organismo oficial que publica nombres y fotografías de jóvenes activistas en Facebook, acusándolos de ser terroristas o miembros de la guerrilla comunista. Sin juicio. Sin pruebas. Con respaldo legal para detenerlos hasta 24 días sin orden judicial.

El caso de Hailey Picayo es uno de los documentados por Amnistía Internacional: 21 años, investigadora de derechos humanos, acusada en 2022 de ser miembro del Nuevo Ejército del Pueblo mientras investigaba una denuncia contra las fuerzas de seguridad. Los cargos se retiraron en 2023, pero el daño estaba hecho. Cuando el Estado te etiqueta como terrorista en Facebook, el algoritmo se encarga del resto: amplifica la acusación, la instala en tu comunidad y convierte a tu vecino en vigilante. Marcos Jr. llegó al poder en 2022 prometiendo ser más respetuoso con los derechos humanos. Intensificó la práctica.

Meta, con todo eso ocurriendo en su plataforma, incumplió sus propias normas de eliminar contenido que incita al odio y la violencia. No porque no lo supiera: lo sabía. Simplemente no actuó.

Pakistán: gobernar desde adentro de una celda

En las elecciones de febrero de 2024, el ex primer ministro Imran Khan llevaba meses preso, con tres condenas encima y prohibido de ser candidato. Su partido usó IA para generarle voz y video: Khan aparecía en actos de campaña, hablaba a sus seguidores, y el día de las elecciones dio un discurso de victoria generado por inteligencia artificial mientras seguía detrás de las rejas. Que un preso político haga campaña puede ser un acto de resistencia legítimo. El problema es otro: sus votantes no podían saber con certeza si lo que escuchaban era Khan o una simulación de Khan. Y sus rivales usaron la misma tecnología para hacer circular deepfakes en su nombre pidiendo el boicot de la elección. Cuando todo puede ser falso, nada puede ser verdadero.

Eso también es parte del manual: en la duda, gana quien tiene más capacidad de producir confusión. Pierden los que todavía creen en la democracia real.

Lo que viene no es una red social

En este análisis mencionamos a Facebook varias veces porque fue el escenario principal en Myanmar y Filipinas. Pero sería un error leerlo como un problema de una plataforma. WhatsApp fue el arma en Brasil. La IA generativa fue la herramienta en Pakistán. Cada caso usó lo que había disponible en ese momento. Y lo que hay disponible hoy es incomparablemente más poderoso que todo eso junto.

La diferencia con cualquier otro momento de la historia es esta: lo que se aprende en tecnología no queda atrás, queda adelante. Siempre. Cada ciclo electoral que pasa sin regulación es un ciclo en el que los que operan estas herramientas mejoran su performance y los que deberían regularlas arrancan de cero.

La política necesita dejar de reaccionar y empezar a anticipar. Eso no depende de quién gestiona: depende de a quiénes escucha el que gestiona. Si los que toman decisiones solo escuchan a los que ya tienen el poder tecnológico, van a llegar tarde otra vez. Si escuchan a los que entienden lo que viene, todavía hay margen.

El patrón que nadie quiere nombrar

Estos casos no son equivalentes entre sí — un genocidio no es lo mismo que una campaña sucia — pero tienen un denominador común que es el que importa: en ninguno de estos países llegó la regulación antes del daño. Siempre después. Siempre tarde. Y en cada caso, la plataforma siguió operando, el algoritmo siguió optimizando, y los responsables siguieron sin rendir cuentas.

Lo que en Myanmar costó miles de vidas, en Brasil se usó para ganar elecciones, en Filipinas para perseguir opositores, y en Pakistán para hacer campaña desde la cárcel. La tecnología es la misma. Los dueños también. Lo que cambia es quién la contrata y para qué.

La tecnología no es un problema, sino que tiene dueños, y los dueños no rinden cuentas ante nadie ni fueron elegidos.

Lo central aquí es no volver a llegar tarde.