Las formas muy extrañas en que la IA podría venir a por ti
Entretenimiento

Las formas muy extrañas en que la IA podría venir a por ti

Posted on by Auden

Con la ayuda de Derek Robertson

Una ventana desconcertante a cuán profundamente podría interferir la IA con medios de vida humanos inaugurado ayer en Washington.

El escenario era, precisamente, la Comisión Federal de Comercio.

La mesa redonda virtual de la FTC sobre economía creativa e IA generativa tuvo un interés inmediato para la industria tecnológica, ya que la presidenta de la FTC, Lina Khan, ha sido impulsando a la agencia hacia adelante como un potencial regulador de la IA mientras que el resto de Washington en gran medida le da vueltas a la cuestión.

En el frente regulatorio, no hubo muchas sorpresas en la audiencia; Fue una sesión de escucha, no una conferencia de prensa.

Pero para cualquiera que intente controlarlo Sobre cuán ampliamente la IA generativa podría afectar el esfuerzo humano, algunos de los testimonios fueron reveladores, incluso para aquellos de nosotros que lo hemos estado observando por un tiempo.

El cartel incluía modelos, escritores, músicos y actores de doblaje, que ofrecieron algunos giros inquietantes en la imagen en rápida evolución de qué están haciendo exactamente los modelos de IA generativa en el trabajo creativo.

  • En la industria del modelaje, Sarah Ziff, fundadora y directora ejecutiva de Model Alliance, expresó su preocupación por el hecho de que a los modelos se les pida que se sometan a escaneos corporales en 3D sin obtener mucha transparencia sobre cómo se usarían esos escaneos. También dio la alarma sobre las empresas que recurren a modelos generados por IA para cubrir cuotas de diversidad en lugar de contratar personas de color.

«A principios de este año, Levi’s anunció «La empresa está creando modelos generados por IA para aumentar el número y la diversidad de sus modelos», dijo Ziff. «Existe un riesgo real de que la IA se utilice para engañar a inversores y consumidores haciéndoles creer que una empresa adopta prácticas de contratación justas y equitativas y que es diversa e inclusiva cuando no es así».

  • En la industria de la música, “la creciente escala de música generada por máquinas diluye el mercado y hace más difícil para los consumidores encontrar los artistas que quieren escuchar”, dijo Jen Jacobsen, directora ejecutiva de Artists Rights Alliance. “Se les roba el trabajo a los músicos y luego se los utiliza para crear pistas generadas por IA que compiten directamente con ellos”, dijo. Esa preocupación por la competencia ya se ha vuelto familiar en el debate sobre la IA y tiene eco en otras industrias (incluidos los principales medios de comunicación, donde Sitios basura llenos de IA ya están recaudando dólares en publicidad).
  • La audiencia tuvo algunos ejemplos del mundo real de cómo se estaba utilizando la IA para confundir deliberadamente a los consumidores: Jacobsen señaló un episodio de podcast pirateado donde voces generadas por IA que pretendían ser de la banda Avenged Sevenfold les dijeron a los fanáticos que sus próximas presentaciones serían canceladas, y un Versión IA de Tom Hanks promover un plan dental en contra del consentimiento del actor.
  • Los creadores expresaron su preocupación por la necesidad de “optar por no” constantemente que su trabajo quede atrapado en la red digital del desarrollo de la IA. Si a eso le sumamos la preocupación muy obvia de que las voces, los libros, las ilustraciones y la música generados por la IA puedan dejar de lado a los artistas humanos a largo plazo, se puede ver por qué la industria creativa está asustada.

Entonces ¿quién va a resolver el problema? La FTC ya lo ha dicho quiere desanimar herramientas que permitirían el tipo de engaño «deepfake» que engaña a las personas haciéndoles creer que están escuchando a un actor famoso o a su banda favorita sin el consentimiento del artista.

Pero la audiencia indicó que la agencia está mirando más allá: “Los derechos de autor no son ni pueden ser la única herramienta para abordar las preocupaciones profundamente personales que tienen los creadores sobre cómo se utilizan sus obras”, dijo la comisionada de la FTC, Rebecca Slaughter. «Existen herramientas poderosas que podemos utilizar en nombre de los creadores, trabajadores y consumidores», añadió.

Fuera del mundo regulatorio, parte de la carga de negociar condiciones justas para los artistas en la era de la IA ha recaído sobre los sindicatos. El Writers Guild of America concluyó recientemente una huelga de 148 días al llegar un acuerdo histórico con los estudios de Hollywood sobre el uso de la IA.

Pero «la solución no puede ser simplemente negociar la sustitución y la remuneración, si las oportunidades laborales se reemplazan al por mayor», afirmó John Painting, de la Federación Estadounidense de Músicos de Estados Unidos y Canadá. «La solución debe ser más amplia que los caminos tradicionales que todos hemos tomado, debido al daño cultural que produce este problema».

En Capitol Hill ya hay una pieza de legislación en la Cámara, patrocinada por la representante Deborah Ross, que otorgaría más poder de negociación a los artistas. La ley crearía una exención antimonopolio para permitir que los artistas se unan para negociar términos de licencia con las principales plataformas de transmisión y desarrolladores de inteligencia artificial generativa.

Pase lo que pase a continuación, Es probable que la solución sea tan múltiple como las preocupaciones que están surgiendo.

El comisionado de la FTC, Álvaro Bedoya, quien ha sido un abierto defensor de la privacidad de los datos y los derechos digitales en los círculos de políticas tecnológicas durante años, dijo que el mandato de la FTC siempre tuvo como objetivo ser lo suficientemente flexible para abordar la innovación en métodos de competencia desleal.

“Cuando escucho sobre escritores nuevos, escritores jóvenes, preocupados de que ‘en el momento en que llegue, me pedirán que introduzca mis guiones para entrenar una nueva IA’; cuando escucho sobre actores de fondo, actores jóvenes (cómo se descubre a muchos futuros actores pero que son los menos poderosos, menos experimentados, menos inteligentes de todos los actores) siendo obligados a ser escaneados, a veces desnudos, u otras situaciones realmente incómodas, Me parece más que innovador”, dijo Bedoya. “Me llena de preocupación”.

Mark Scott de POLITICO echó agua fría esta mañana sobre las advertencias de que la IA va a potenciar el mundo de la desinformación.

Escribiendo en el Boletín Puente DigitalMark argumentó que el texto y el vídeo generados por IA no tienen ni más ni menos probabilidades de distorsionar el panorama mediático que sus predecesores generados por humanos y, además, son sintomáticos, no necesariamente la causa, de un panorama político que deja a los votantes susceptibles a tales efectos. «información falsa» en primer lugar.

«Nadie dice que las falsedades generadas por la IA (ya sean vídeos, textos o imágenes) no sean un problema», escribe Scott. “Es sólo que, dado el estado de las redes sociales, son temas marginales del evento principal: una polarización de una década que ha dejado al mundo en línea segmentado según líneas partidistas; cada vez más fragmentados entre múltiples redes sociales; y donde los políticos siguen siendo los principales proveedores de falsedades.”

«En esa mezcla compleja, la inteligencia artificial simplemente no va a mover la aguja más allá de empeorar los problemas existentes», continúa. (Si te lo perdiste, a principios de esta semana Mark analizó en profundidad exactamente cuáles son esos problemas existentes antes de un ciclo electoral de 2024 que seguramente será intenso). Derek Robertson

Más malas noticias para los titulares de NFT: Incluso los usuarios avanzados más poderosos son vulnerables a que les roben sus tokens.

Fred Wilson, un capitalista de riesgo con profundos vínculos con el mundo de Web3, escribió en su blog recientemente sobre su experiencia al ser estafado con 46 NFT a través de un enlace a una caída de NFT falsa. Wilson explica cómo lo engañaron, con algunas palabras sabias: «El hecho de que estuviera firmando transacciones en la misma billetera donde guardo mis NFT también es una mala práctica y lo sabía… Firmar transacciones es un negocio arriesgado y debe ser hecho con cuidado”.

Wilson dijo que finalmente recuperó la mayoría de sus NFT, pero la historia tiene implicaciones mayores que eso. Como escribió su colega VC y analista Benedict Evans en su boletín semanal ayer, “se supone que esto es mejor que la infraestructura bancaria estadounidense, y si alguien que ha estado metido en esto puede ser asaltado tan fácilmente, esto aún no está listo”. — Derek Robertson