El potencial de la inteligencia artificial generativa en los procesos electorales ha generado controversia en el mundo en general. Si bien la IA generativa puede ayudar a personalizar el mensaje y comprender mejor las preferencias de los votantes, también puede ser utilizada para manipular y desinformar a los ciudadanos.
La IA generativa tiene el potencial de detectar y prevenir anomalías y fraudes electorales, gracias a su capacidad para analizar grandes cantidades de datos, ayudando a gobiernos, autoridades electorales, partidos políticos y ciudadanos a detectar patrones sospechosos y tomar medidas preventivas para garantizar elecciones libres, transparentes y justas.
En las elecciones presidenciales de Estados Unidos en 2020, a través de una empresa de análisis de datos utilizando IA se identificaron posibles vulnerabilidades de ciberseguridad en los sistemas electorales, así mismo como se han detectado en otras regiones del mundo campañas de desinformación y propaganda.
Sin embargo, pese a estos beneficios, el uso de la IA en los procesos electorales presenta riesgos significativos. Los episodios de Cambridge Analytics en el 2018 con la violación a la privacidad y la protección de datos mediante el uso de campañas de microsegmentación, o el uso de twitter utilizando bots y cuentas falsas entre el 2020 y el 2022 generando caos y desinformación, o más recientemente el uso de videos manipulados por IA que muestran a una persona haciendo o diciendo algo que nunca hizo deepfakes generando dudas sobre la realidad que conocemos y la capacidad que se tiene de afectar las elecciones de un país.
La IA usada de una manera errónea puede derivar en manipulación de campañas, amplificación de información falsa, diseminación de contenido por el uso de algoritmos a mayor velocidad y con mayor cobertura, e incluso permitir la injerencia indebida de gobiernos extranjeros.
Podemos esperar que durante los próximos años los países con elecciones vivan campañas caóticas, donde crecerá la polarización por el mal uso de nuevas tecnologías, así como el incremento en la diseminación de información falsa, en especial a través de plataformas de mensajería como WhatsApp y Telegram.
Los países necesitan avanzar en marcos éticos, modelos de gobernanza, aspectos regulatorios, y uso de mecanismos y tecnología que permitan luchar contra el fenómeno de la desinformación, la manipulación y el uso inescrupuloso e ilegal de los datos personales. Desafortunadamente, aun esta solución no se ha encontrado.
La IA generativa puede ser una herramienta poderosa para mejorar los procesos electorales, pero es crucial que se utilice de manera ética y responsable y se implementen medidas para proteger y preservar la integridad de procesos electorales libres, justos y en democracia.
VICTOR MUÑOZ
Argia Green Tech and Economics.
