Crece la preocupación por la IA en el entretenimiento para adultos

A finales de este mes, los habitantes de Berlín podrán reservar una hora con una muñeca sexual con inteligencia artificial cuando el primer burdel cibernético del mundo lance el servicio tras una fase de prueba.

Los clientes podrán interactuar verbalmente con las muñecas AI y también físicamente.

«Muchas personas se sienten más cómodas compartiendo asuntos privados con una máquina porque no juzga», afirma Philipp Fussenegger, fundador y propietario de Cybrothel.

“Antes había mucho interés en una muñeca con una actriz de voz, donde los usuarios sólo podían escuchar la voz e interactuar con la muñeca. Ahora existe una demanda aún mayor de interactuar con la inteligencia artificial”.

Es solo una de las muchas formas en que el negocio del entretenimiento para adultos utiliza la IA generativa.

El análisis de SplitMetrics reveló que las aplicaciones complementarias de IA alcanzaron 225 millones de descargas en Google Play Store.

«Esperaría que más desarrolladores de aplicaciones tomaran nota de esta tendencia y buscaran formas de innovar y monetizar aún más esta categoría», dijo el director general de SplitMetrics, Thomas Kriebernegg.

Los compañeros de IA pueden ser lucrativos, dice Misha Rykov, investigadora de privacidad de la guía Privacidad no incluida de Mozilla.

“Dado que la mayoría de los chatbots cobran tarifas y la tecnología central se ha desarrollado en otros lugares [such as Open AI]Parece un negocio de alto margen. Además, estas aplicaciones recopilan datos personales y, a menudo, los comparten con terceros, como anunciantes, un modelo de negocio probado y verdadero”.

Pero la fusión de la IA y el negocio del entretenimiento para adultos ha hecho saltar las alarmas.

Un problema radica en el sesgo inherente a la IA generativa, que produce contenido nuevo basándose en los datos con los que ha sido entrenada.

Existe el riesgo de que los estereotipos de género retrógrados sobre el sexo y el placer queden codificados en chatbots sexuales, dice el Dr. Kerry McInerney, investigador principal del Centro Leverhulme para el Futuro de la Inteligencia, de la Universidad de Cambridge.

«Es crucial que comprendamos qué tipos de conjuntos de datos se utilizan para entrenar chatbots sexuales; de lo contrario, corremos el riesgo de replicar ideas sobre el sexo que degradan el placer femenino e ignoran el sexo que existe fuera de las relaciones heterosexuales».

También existe el riesgo de adicción, dice Rykov, quien afirma que los chatbots de IA se dirigen a personas solitarias, especialmente hombres.

«La mayoría de los chatbots de IA que revisamos tienen un alto potencial adictivo y varios daños potenciales, especialmente para usuarios con problemas de salud mental».

Mozilla ha añadido advertencias de contenido a varios chatbots de IA «cuando encontramos temas de abuso, violencia y relaciones con menores de edad», dice Rykov.

También planteó la cuestión de la privacidad. Los chatbots asociados están diseñados para recopilar «una cantidad sin precedentes de datos personales».

Rykov añade que el 90% de las aplicaciones revisadas por Mozilla “pueden compartir o vender datos personales”, mientras que más de la mitad de las aplicaciones no permiten a los usuarios eliminar datos personales.

Otros advierten sobre el posible peligro que dicha IA podría tener en las relaciones del mundo real.

Tamara Hoyton, consultora senior del servicio de asesoramiento Relate, señala: «Pueden surgir algunas dificultades si los encuentros reales son profundamente decepcionantes porque no cumplen con los requisitos estrictamente definidos que los usuarios experimentan en el porno con IA».

Hoyton añade que, en algunos casos, la pornografía basada en IA podría llevar a los usuarios a zonas peligrosas.

“No hay nada de malo en un poco de fantasía, y muchas personas se excitan con pensamientos que no tienen la menor intención de llevar a la práctica; El porno con IA podría verse así.

«Si se cruza con una suposición de consentimiento, por ejemplo, un sentido de derecho, o que todos serán lo que te excita, en función de la experiencia del usuario sobre el cumplimiento del objeto de IA, entonces es un problema».

Las empresas que utilizan la IA en la industria del entretenimiento para adultos reconocen que es necesario actuar con cautela, pero sostienen que la IA desempeña un papel importante.

Philipp Hamburger, director de IA de Lovehoney, dice que la empresa pretende «mejorar la experiencia sexual de sus clientes, en lugar de reemplazarla, lo cual es una línea importante a trazar».

Otros creen que la IA tendrá un efecto positivo en el sector. Rubén Cruz es el cofundador de The Clueless Agency, con sede en Barcelona, ​​que creó una de las primeras personas influyentes en IA, Aitana López.

Señala que la industria del sexo siempre existirá y la IA puede ayudar a mitigar las preocupaciones éticas al garantizar que el contenido no se cree con personas reales.

«Este cambio tiene como objetivo garantizar que ninguna persona, hombre o mujer, tenga que ser sexualizada explícitamente en el futuro».