Las falsificaciones electorales pueden socavar la credibilidad institucional, dice Moody’s
Con la temporada electoral en marcha y la inteligencia artificial evolucionando rápidamente, la manipulación de la publicidad política por parte de la IA se está convirtiendo en un problema de mayor preocupación para el mercado y la economía. Un nuevo informe de Moody’s publicado el miércoles advierte que la IA generativa y los deepfakes se encuentran entre los problemas de integridad electoral que podrían presentar un riesgo para la credibilidad institucional de Estados Unidos.
«Es probable que las elecciones sean muy reñidas, lo que aumenta las preocupaciones de que se puedan utilizar falsificaciones de inteligencia artificial para engañar a los votantes, exacerbar la división y sembrar discordia», escribieron el vicepresidente adjunto y analista de Moody’s, Gregory Sobel, y el vicepresidente sénior, William Foster. «Si tienen éxito, los agentes de desinformación podrían influir en los votantes, afectar el resultado de las elecciones y, en última instancia, influir en la formulación de políticas, lo que socavaría la credibilidad de las instituciones estadounidenses».
El gobierno ha intensificado sus esfuerzos para combatir los deepfakes. El 22 de mayo, la presidenta de la Comisión Federal de Comunicaciones, Jessica Rosenworcel propuso una nueva regla Esto obligaría a los anuncios políticos de televisión, video y radio a revelar si utilizaron contenido generado por IA. La FCC ha mostrado su preocupación por el uso de IA en los anuncios de este ciclo electoral, y Rosenworcel ha señalado posibles problemas con las falsificaciones profundas y otros contenidos manipulados.
Las redes sociales han quedado fuera del ámbito de las regulaciones de la FCC, pero la Comisión Federal Electoral También está considerando normas generalizadas de divulgación de inteligencia artificial que se extendería a todas las plataformas. En una carta a RosenworcelAlentó a la FCC a retrasar su decisión hasta después de las elecciones porque sus cambios no serían obligatorios en los anuncios políticos digitales. Agregaron que podrían confundir a los votantes al pensar que los anuncios en línea sin las divulgaciones no tienen IA, incluso si la tuvieran.
Si bien la propuesta de la FCC podría no cubrir las redes sociales por completo, abre la puerta a otros organismos que puedan regular los anuncios en el mundo digital, a medida que el gobierno estadounidense avanza para convertirse en un fuerte regulador del contenido de inteligencia artificial. Y, tal vez, esas reglas podrían extenderse a incluso más tipos de publicidad.
«Esta sería una decisión revolucionaria que podría cambiar la información y la publicidad en los medios tradicionales durante los próximos años en torno a las campañas políticas», dijo Dan Ives, director gerente y analista senior de acciones de Wedbush Securities. «Lo preocupante es que no se puede volver a meter al genio en la botella, y esta decisión tiene muchas consecuencias no deseadas».
Algunas plataformas de redes sociales ya han adoptado algún tipo de divulgación de información sobre inteligencia artificial antes de que se implementen las regulaciones. Meta, por ejemplo, exige una divulgación de información sobre inteligencia artificial para toda su publicidad y está prohibiendo todos los anuncios políticos nuevos la semana previa a las elecciones de noviembre. Google exige que todos los anuncios políticos con contenido modificado que «representan de manera no auténtica a personas o eventos reales o de apariencia realista» incluyan divulgaciones, pero no exige divulgaciones de información sobre inteligencia artificial en todos los anuncios políticos.
Las empresas de redes sociales tienen buenas razones para ser consideradas proactivas en este tema, ya que las marcas se preocupan por estar alineadas con la difusión de información errónea en un momento crucial para la nación. Google y Facebook Se espera que las empresas de publicidad digital en Estados Unidos absorban el 47% de los 306.940 millones de dólares que se prevé gastar en publicidad digital en 2024. «Se trata de un problema de tercer orden para las principales marcas centradas en la publicidad durante un ciclo electoral muy divisivo que se avecina y en el que la desinformación basada en inteligencia artificial está descontrolada. Es un momento muy complejo para la publicidad online», afirmó Ives.
A pesar de la autovigilancia, el contenido manipulado por IA llega a plataformas sin etiquetas debido a la gran cantidad de contenido publicado todos los días. Sus mensajes de spam generados por IA o grandes cantidades de imágenes de IAEs difícil encontrarlo todo.
«La falta de estándares en la industria y la rápida evolución de la tecnología hacen que esta iniciativa sea todo un reto», afirmó Tony Adams, investigador principal de amenazas de la Unidad de Contraamenazas de Secureworks. «Afortunadamente, estas plataformas han informado de éxitos en la vigilancia del contenido más dañino en sus sitios mediante controles técnicos, irónicamente impulsados por IA».
Ahora es más fácil que nunca crear contenido manipulado. En mayo, Moody’s advirtió que los deepfakes ya estaban siendo utilizados como arma por gobiernos y entidades no gubernamentales como propaganda y para generar malestar social y, en los peores casos, terrorismo.
«Hasta hace poco, crear una deepfake convincente requería un importante conocimiento técnico de algoritmos especializados, recursos informáticos y tiempo», escribió Abhi Srivastava, vicepresidente adjunto de Moody’s Ratings. «Con la llegada de herramientas Gen AI de fácil acceso y asequibles, generar una deepfake sofisticada se puede hacer en minutos. Esta facilidad de acceso, junto con las limitaciones de las salvaguardas existentes en las redes sociales contra la propagación de contenido manipulado, crea un entorno fértil para el uso indebido generalizado de deepfakes».
Audio falso profundo a través de una llamada robótica Se ha utilizado en una primaria presidencial en New Hampshire. Este ciclo electoral.
Según Moody’s, un posible aspecto positivo es la naturaleza descentralizada del sistema electoral estadounidense, junto con las políticas de ciberseguridad existentes y el conocimiento general de las ciberamenazas que se avecinan. Esto proporcionará cierta protección, dice Moody’s. Los estados y los gobiernos locales están promulgando medidas para bloquear aún más los deepfakes y el contenido de inteligencia artificial sin etiquetar, pero las leyes de libertad de expresión y las preocupaciones por bloquear los avances tecnológicos han ralentizado el proceso en algunas legislaturas estatales.
Según Moody’s, en febrero se estaban introduciendo 50 proyectos de ley relacionados con la IA por semana en las legislaturas estatales, incluido un enfoque en los deepfakes. Trece estados tienen leyes sobre interferencia electoral y deepfakes, ocho de las cuales se promulgaron desde enero.
Moody’s señaló que Estados Unidos es vulnerable a los riesgos cibernéticos, ocupando el puesto 10 entre 192 países en el Índice de Desarrollo del Gobierno Electrónico de las Naciones Unidas.
Según Moody’s, la percepción entre la población de que las falsificaciones profundas tienen la capacidad de influir en los resultados políticos, incluso sin ejemplos concretos, es suficiente para «socavar la confianza pública en el proceso electoral y la credibilidad de las instituciones gubernamentales, lo que constituye un riesgo crediticio». Cuanto más se preocupe una población por separar los hechos de la ficción, mayor será el riesgo de que el público se desvincule y desconfíe del gobierno. «Esas tendencias serían negativas para el crédito, lo que podría conducir a un aumento de los riesgos políticos y sociales y comprometer la eficacia de las instituciones gubernamentales», escribió Moody’s.
«La respuesta de las autoridades y de la FCC puede disuadir a otros actores nacionales de utilizar la IA para engañar a los votantes», dijo Adams de Secureworks. «Pero no hay duda alguna de que los actores extranjeros seguirán, como lo han hecho durante años, entrometiéndose en la política estadounidense explotando herramientas y sistemas de IA generativa. A los votantes, el mensaje es que mantengan la calma, permanezcan alerta y voten».