‘Todos los ojos puestos en Rafah’: la imagen viral de la IA plantea cuestiones éticas

Las tiendas de campaña para refugiados se extienden a lo largo de un vasto desierto arenoso: decenas de miles de personas se alinearon en ordenadas filas, algunas organizadas en el centro para leer: “Todos los ojos puestos en Rafah”.

Es una publicación viral compartida por millones de personas en todo el mundo, incluida la ganadora del Premio Nobel de la Paz Malala Yousafzai, la actriz de “Bridgerton” Nicola Coughlan y la modelo Bella Hadid, en respuesta a El ataque con misiles de Israel del domingo que mató a decenas de civiles en un campo para palestinos desplazados en la ciudad del sur de la Franja de Gaza.

Pero el imagenque presenta sombras borrosas, inusuales y repetición de patrones típicos de la inteligencia artificial, parece ser falso. Los expertos dicen que representa una nueva forma de imágenes activistas generadas por IA.

«Es uno de los primeros ejemplos importantes del uso de la IA en el activismo viral», dijo Matt Navarra, consultor de redes sociales con sede en el Reino Unido. «Esta es una evolución de lo que hemos visto antes en el uso de plataformas de redes sociales para generar un mensaje que potencialmente puede volverse viral y atraer la atención de los medios y los políticos hacia una causa particular».

Navarra dijo que generar una imagen a partir de IA puede permitir a los activistas evitar violar los derechos de autor o eludir las reglas de las plataformas de redes sociales sobre violencia e incitación. En el transcurso de la guerra entre Israel y Hamas, muchos activistas, periodistas y organizaciones de derechos humanos se han quejado de que empresas de redes sociales como Meta, propietaria de Instagram y Facebook, han eliminado imágenes y vídeos de contenido gráfico y de violencia en Gaza, incluidas fotografías de palestinos heridos y asesinados.

«La persona promedio no es particularmente buena usando Photoshop o buscando contenido, que no infrinja los derechos de autor, o muestra cosas horribles que a la gente no le gustan o que Meta no querría publicar en la plataforma», dijo Navarra. «Ciertamente, la IA abre esa oportunidad para crear publicaciones virales de activistas».

Pero así como la llegada de la IA generativa ofrece a los activistas una herramienta más fácil y económica para crear imágenes poderosas sin depender de fotografías de archivo ni violar las Meta reglas, también podría conducir a posibles abusos. A los expertos les preocupa que algunos creadores de contenido probablemente creen imágenes muy atractivas generadas por IA para promover información falsa o agregar enlaces a spam.

«El objetivo bien puede ser conseguir mucha atención viral, muchos me gusta, muchas acciones compartidas y muchos comentarios», dijo Navarra. «Y luego, una vez que se haya vuelto viral, pasar esa página y agregar enlaces a contenido spam o phishing o usarlo de otras maneras negativas o spam».

Otros dicen que las imágenes de IA ofrecen una versión desinfectada del campo de refugiados de Rafah en un momento en que periodistas y activistas luchan por compartir fotos reales de Gaza en las redes sociales.

«La gente ha estado publicando contenido realmente gráfico e inquietante para crear conciencia y eso es censurado mientras un medio sintético se vuelve viral, es inquietante», dijo Deborah Brown, investigadora principal y defensora de los derechos digitales de Human Rights Watch. Fue coautora de un informe en diciembre pasado.

La frase “Todos los ojos puestos en Rafah” fue acuñada antes de que Israel lanzara su ataque contra Hamás en Rafah el 6 de mayo, provocando que más de un millón de personas huyeran de la ciudad del sur de Gaza, cerca de la frontera con Egipto.

Rico maíz mirónquien dirige la oficina de la Organización Mundial de la Salud para Gaza y Cisjordania, usó la frase en febrero cuando habló en contra de los planes israelíes de ingresar al área alrededor de Rafah en un intento de destruir los bastiones de Hamas.

“Todos los ojos están puestos en Rafah”, Peeperkorn dicho en una rueda de prensa de la OMS, señalando que Rafah era uno de los últimos refugios que quedaban para los palestinos desplazados.

El lema, adoptado por grupos humanitarios y pro palestinos en los últimos meses y garabateado en carteles en los campus universitarios, fue tendencia en las redes sociales después del domingo, cuando 45 personas murieron y 200 resultaron heridas en un ataque israelí, según el Ministerio de Salud de Gaza. . El Primer Ministro Benjamín Netanyahu calificó el ataque, el más mortífero contra la ciudad desde que Israel lanzó su ofensiva hace tres semanas, como un “error trágico.”

Instagram aún tiene que etiquetar el gráfico viral “Todos los ojos en Rafah”, compartido más de 40 millones de veces en Instagram, para que los usuarios sepan que fue generado por IA.

«Si el contenido sintético no está etiquetado y confunde o enturbia las aguas en términos de lo que realmente sucede en el terreno, eso es un problema», dijo Brown.

Algunas fotografías del campamento de refugiados de Rafah tras el ataque con misiles de Israel muestran una realidad más sombría y caótica que el pulcro campamento bajo un cielo azul mostrado por AI: en las horas posteriores al ataque con misiles, el campamento estaba sembrado de escombros y lo que quedaba de algunas tiendas de campaña. Había brasas anaranjadas humeantes que lanzaban humo gris hacia un cielo gris.

Desde el ataque israelí del domingo a Rafah, periodistas y activistas han dicho que no han podido compartir fotografías en las redes sociales del costo humano de los ataques. El lunes, Lila Hassan, periodista de investigación independiente radicada en Nueva York, al corriente que no había podido participar ni publicar nada en Instagram desde que intentó compartir una imagen de un niño decapitado en Rafah.

«No he recibido ninguna advertencia y ni siquiera puedo presentar una queja», Hassan escribió en la plataforma de redes sociales X. “Esto es una censura que no puedo eludir”.

Según Human Rights Watch, empresas de redes sociales como Meta han eliminado repetidamente imágenes y vídeos de contenido gráfico y violencia en Gaza, incluidas fotografías de palestinos heridos y asesinados.

En diciembre pasado, la organización no gubernamental con sede en Nueva York publicó un informe de 51 páginas que documenta las restricciones políticas de Meta durante la guerra entre Israel y Hamas: “Las promesas incumplidas de Meta: censura sistémica del contenido palestino en Instagram y Facebook.” Entre octubre y noviembre de 2023, según el informe, documentó más de 1.050 “eliminaciones y otras supresiones de contenido” en Instagram y Facebook publicados por palestinos y sus partidarios.

Entre las fotografías censuradas había un vídeo de israelíes orinando sobre palestinos y un niño palestino gritando “¿Dónde están los árabes?” después de que mataron a su hermana. Meta los citó por violar su política sobre violencia e incitación.

«En estos casos», argumentó el informe, «el valor noticioso del material compartido fue tal que es difícil justificar una decisión de bloquear este contenido sobre la base de una política de violencia e incitación».

Después de que “Todos los ojos en Rafah” se volviera viral, algunos activistas proisraelíes respondieron con contraposturas: “¿Dónde estaban sus ojos el 7 de octubre?” dicho uno que presenta una representación de un soldado de Hamas de pie junto a un bebé pelirrojo que luego fue eliminada de Instagram según el Los tiempos de Israel. «Si tus ojos están puestos en Rafah, ayúdanos a encontrar a nuestros rehenes», decía otra historia de Instagram creada por Tráelos a casa ahora.

Otros críticos judíos condenaron «Todos los ojos puestos en Rafah» por alentar un activismo «perezoso» e «improductivo».

“¿Qué significa realmente compartir una imagen de IA que no se parece en nada a Gaza?” escribió Josh Kaplan, director digital del Jewish Chronicle, con sede en Londres.

“La publicación Todos los ojos en Rafah es otra forma insulsa y perezosa de decir ‘Me importa’, no ‘Me importa poner fin al conflicto con el menor sufrimiento humano posible'», ni siquiera «Me importan todos los civiles asesinados». ”, dijo Kaplan. «No dice nada productivo».