Con el advenimiento de las redes sociales, las noticias falsas se han transformado en un verdadero peligro para la convivencia democrática y política de todos los países. En nuestro país, las falsedades difundidas en diferentes plataformas hizo que el Congreso fuese tomado por asalto por la hoy oposición, e hizo que el Rechazo triunfara en el Plebiscito de Salida de 2022, quedándonos hasta hoy con la Constitución de Pinochet.
En Estados Unidos, se viene una nueva contienda electoral. Para prevenir errores de antaño en un esfuerzo sin precedentes por proteger la integridad de los procesos democráticos, más de veinte empresas tecnológicas líderes, incluyendo OpenAI, Google, Amazon, Meta y Microsoft, se han comprometido a combatir el contenido falso generado por inteligencia artificial (IA), especialmente durante las elecciones de 2024, que afectarán a casi la mitad de la población mundial.
Este histórico pacto, presentado durante la Conferencia de Seguridad de Múnich, reconoce los crecientes desafíos que la IA representa para la veracidad de la información, especialmente en el contexto de campañas electorales. El acuerdo no prohíbe la creación de “deepfakes” (imágenes, audios o videos manipulados), pero sí propone medidas para identificarlos y mitigar su impacto, como la implementación de marcas de agua y metadatos.
“La colaboración entre diferentes sectores es fundamental para abordar los desafíos que presenta la IA”, mencionó Nick Clegg, presidente de asuntos globales de Meta Platforms. “Ninguna entidad puede afrontar estos retos de forma aislada. Este acuerdo es un paso crucial hacia la cooperación en la lucha contra la desinformación.”
Si bien este pacto ha sido recibido con optimismo por algunos, otros han expresado críticas por su naturaleza voluntaria y la falta de un plan de acción concreto. Algunas empresas, como OpenAI, ya han tomado medidas independientes, como la prohibición del uso político de sus herramientas. TikTok también ha creado centros electorales para monitorear la información.
Este acuerdo marca un hito en la era de la responsabilidad tecnológica, donde el poder de la IA debe equilibrarse con la preservación de la democracia. La eficacia de estas medidas y su implementación real aún son inciertas. Queda por ver cómo estas promesas se traducirán en acciones concretas que puedan mitigar el impacto de la desinformación en las próximas elecciones.