Meta ahora tiene un chatbot de IA. La influencia de la IA aumenta en las redes sociales

Cuando usas Facebook Messenger en estos días, un nuevo mensaje te saluda con este mensaje: «Pregúntale cualquier cosa a Meta AI».

Es posible que hayas abierto la aplicación para enviar un mensaje de texto a un amigo, pero el nuevo chatbot impulsado por inteligencia artificial de Meta te tienta con conocimientos enciclopédicos que están a solo unas pocas teclas de distancia.

Meta, la empresa matriz de Facebook, ha instalado su chatbot local en sus servicios de Whatsapp e Instagram. Ahora, miles de millones de usuarios de Internet pueden abrir una de estas plataformas de redes sociales gratuitas y aprovechar los servicios de Meta AI como diccionario, guía, consejero o ilustrador, entre muchas otras tareas que puede realizar, aunque no siempre. confiable o infaliblemente.

«Nuestro objetivo es construir la IA líder en el mundo y ponerla a disposición de todos», dijo Mark Zuckerberg, director ejecutivo de Meta, cuando anunció el lanzamiento del chatbot hace dos semanas. «Creemos que la metaIA es ahora el asistente de IA más inteligente que puedes usar libremente».

Como sugieren los movimientos de Meta, la IA generativa se está abriendo camino en las redes sociales. TikTok cuenta con un equipo de ingeniería enfocado en desarrollar grandes modelos de lenguaje que pueden reconocer y generar texto, y estan contratando escritores y reporteros que pueden anotar y mejorar el rendimiento de estos modelos de IA. En la página de ayuda de Instagram dice: «Meta puede usar [user] mensajes para entrenar el modelo de IA, ayudando a mejorar las IA”.

TikTok y Meta no respondieron a una solicitud de comentarios, pero los expertos en inteligencia artificial dijeron que los usuarios de las redes sociales pueden esperar ver más de esta tecnología influyendo en su experiencia, para bien o posiblemente para mal.

Parte de la razón por la que las aplicaciones de redes sociales están invirtiendo en IA es que quieren volverse “más pegajosas” para los consumidores, dijo Ethan Mollick, profesor de la Escuela Wharton de la Universidad de Pensilvania, que enseña emprendimiento e innovación. Aplicaciones como Instagram intentan mantener a los usuarios en sus plataformas el mayor tiempo posible porque la atención cautiva genera ingresos por publicidad, dijo.

En la conferencia telefónica sobre ganancias del primer trimestre de Meta, Zuckerberg dijo que a la compañía le tomaría algún tiempo obtener ganancias de sus inversiones en el chatbot y otros usos de la IA, pero ya ha visto que la tecnología influye en las experiencias de los usuarios en sus plataformas.

«En este momento, alrededor del 30% de las publicaciones en el feed de Facebook son entregadas por nuestro sistema de recomendación de IA», dijo Zuckerberg, refiriéndose a la tecnología detrás de escena que da forma a lo que ven los usuarios de Facebook. «Y por primera vez, más del 50% del contenido que la gente ve en Instagram ahora está recomendado por IA».

En el futuro, la IA no solo personalizará las experiencias de los usuarios, afirmó Jaime Sevilla, director de Epoch, un instituto de investigación que estudia las tendencias de la tecnología de IA. En el otoño de 2022, millones de usuarios estaban cautivado por las capacidades de IA de Lensa ya que generaba retratos caprichosos a partir de selfies. Espere ver más de esto, dijo Sevilla.

«Creo que terminarás viendo gente totalmente generada por IA que publica música y esas cosas generadas por IA», dijo. «Podríamos vivir en un mundo donde el papel que desempeñan los humanos en las redes sociales sea una pequeña parte del todo».

Mollick, autor del libro “Co-inteligencia: vivir y trabajar con IA”, dijo que estos chatbots ya están produciendo parte de lo que la gente lee en línea. «La IA impulsa cada vez más muchas comunicaciones en línea», afirmó. “[But] En realidad, no sabemos cuánta escritura de IA existe”.

Sevilla dijo que la IA generativa probablemente no suplantará la plaza digital creada por las redes sociales. La gente anhela la autenticidad de sus interacciones con amigos y familiares en línea, dijo, y las empresas de redes sociales deben preservar un equilibrio entre eso y el contenido generado por IA y la publicidad dirigida.

Aunque la IA puede ayudar a los consumidores a encontrar productos más útiles en la vida diaria, también hay un lado oscuro del atractivo de la tecnología que puede convertirse en coerción, dijo Sevilla.

«Los sistemas serán bastante buenos en cuanto a persuasión», dijo. Un estudio recién publicado por investigadores de inteligencia artificial del Instituto Federal Suizo de Tecnología de Lausana encontró que GPT-4 fue un 81,7% más efectivo que un humano convencer a alguien en un debate para que esté de acuerdo. Si bien el estudio aún no ha sido revisado por pares, Sevilla dijo que los hallazgos eran preocupantes.

«Eso es relativo a eso [AI] «Podríamos ampliar significativamente la capacidad de los estafadores para interactuar con muchas víctimas y perpetrar cada vez más fraude», añadió.

Sevilla dijo que los responsables políticos deberían ser conscientes de los peligros de la IA al difundir información errónea mientras Estados Unidos se dirige a otra temporada de votaciones políticamente cargada este otoño. Otros expertos advierten que no se trata de si, sino de cómo la IA podría desempeñar un papel para influir en los sistemas democráticos en todo el mundo.

Bindu Reddy, director ejecutivo y cofundador de Abacus.AI, dijo que la solución tiene un poco más de matices que prohibir la IA en nuestras plataformas de redes sociales: los malos actores estaban difundiendo odio y desinformación en línea mucho antes de que la IA entrara en la ecuación. Por ejemplo, los defensores de los derechos humanos criticaron a Facebook en 2017 por no filtrar el discurso de odio en línea que impulsó el genocidio rohingya en Myanmar.

Según la experiencia de Reddy, la IA ha sido buena para detectar elementos como prejuicios y pornografía en plataformas en línea. Ha estado usando IA para moderar contenido desde 2016, cuando lanzó una aplicación de red social anónima llamada Candid que se basaba en el procesamiento del lenguaje natural para detectar información errónea.

Los reguladores deberían prohibir que las personas utilicen la IA para crear falsificaciones de personas reales, dijo Reddy. Pero es crítica con leyes como la de la Unión Europea. Restricciones radicales al desarrollo de la IA.. En su opinión, es peligroso que Estados Unidos quede atrapado detrás de países competidores, como China y Arabia Saudita, que derramando miles de millones de dólares en el desarrollo de tecnología de IA.

Hasta ahora, la administración Biden ha publicado un «Plan para una Declaración de Derechos de la IA» que ofrece sugerencias sobre las salvaguardias que el público debería tener, incluidas protecciones para la privacidad de los datos y contra la discriminación algorítmica. No es ejecutable, aunque insinúa la legislación que podría surgir.

Sevilla reconoció que se puede entrenar a los moderadores de IA para que tengan los prejuicios de una empresa, lo que lleva a que se censuren algunas opiniones. Pero los moderadores humanos también han mostrado prejuicios políticos.

Por ejemplo, en 2021 El Times informó sobre las quejas de que el contenido pro palestino era difícil de encontrar en Facebook e Instagram. Y los críticos conservadores acusaron a Twitter de parcialidad política en 2020 porque enlaces bloqueados a una historia del New York Post sobre el contenido de la computadora portátil de Hunter Biden.

«De hecho, podemos estudiar qué tipo de sesgos [AI] refleja”, dijo Sevilla.

Aún así, dijo, la IA podría llegar a ser tan efectiva que podría oprimir poderosamente la libertad de expresión.

“¿Qué sucede cuando todo lo que está en su cronograma se ajusta perfectamente a las pautas de la empresa?” Dijo Sevilla. «¿Es ese el tipo de red social que quieres consumir?»