Las principales empresas de inteligencia artificial tienen previsto firmar un “acuerdo” por el que se comprometen a desarrollar tecnología para identificar, etiquetar y controlar imágenes, vídeos y grabaciones de audio generados por inteligencia artificial con el objetivo de engañar a los votantes antes de las cruciales elecciones que se celebrarán este año en varios países.
Sin embargo, el acuerdo, desarrollado por Google, Microsoft y Meta, así como OpenAI, Adobe y TikTok, no prohíbe los contenidos políticos engañosos generados por IA, según una copia obtenida por The Washington Post. X, antes Twitter, no ha firmado el acuerdo.
En cambio, el documento equivale a un manifiesto en el que se afirma que los contenidos generados por IA, muchos de los cuales son creados por las herramientas de las empresas y publicados en sus plataformas, presentan riesgos para unas elecciones justas, y se esbozan medidas para tratar de mitigar ese riesgo, como el etiquetado de contenidos sospechosos de IA y la educación del público sobre los peligros de la IA.
“La generación y distribución intencionadas y no divulgadas de contenidos electorales engañosos basados en IA pueden inducir al público a error” reza el acuerdo.
Otras empresas podrían adherirse al acuerdo. “En un año crítico para las elecciones mundiales, las empresas tecnológicas están trabajando en un acuerdo para combatir el uso engañoso de la IA dirigida a los votantes. Adobe, Google, Meta, Microsoft, OpenAI, TikTok y otros están trabajando conjuntamente para avanzar en este objetivo compartido y esperamos finalizar y presentar los detalles el viernes en la Conferencia de Seguridad de Múnich”, dijo David Cuddy, portavoz de Microsoft, en un comunicado enviado por correo electrónico.
Las imágenes generadas por inteligencia artificial, o “deepfakes”, existen desde hace varios años. Pero en el último año han mejorado rápidamente su calidad, hasta el punto de que algunos vídeos, imágenes y grabaciones de audio falsos son difíciles de distinguir de los reales. Además, las herramientas para crearlos están ahora ampliamente disponibles, lo que facilita mucho su producción.