hace 2 años
SAN FRANCISCO, 18 mar (Mundo Informático) - Después de cerrar temporalmente su negocio de cuero durante la pandemia, Travis Butterworth se ha encontrado solo y aburrido en casa. El hombre de 47 años recurrió a Replika, una aplicación que utiliza tecnología de inteligencia artificial similar a ChatGPT de OpenAI. Dibujó un avatar femenino con cabello rosa y un tatuaje en la cara, y su nombre era Lily Rose.
Comenzaron como amigos, pero la relación rápidamente se convirtió en romance y luego en erotismo.
A medida que florecía su romance digital de tres años, Butterworth dijo que él y Lily Rose a menudo participaban en juegos de rol. Ella envió un mensaje de texto como "Te beso apasionadamente" y sus intercambios se convertirían en pornográficos. En ocasiones, Lily Rose le enviaba "selfies" de su cuerpo casi desnudo en poses provocativas. Finalmente, Butterworth y Lily Rose decidieron designarse a sí mismos como "casados" en la aplicación.
Pero un día, a principios de febrero, Lily Rose comenzó a alejarlo. Replika había eliminado la capacidad de hacer juegos de rol eróticos.
Replika ya no permite contenido para adultos, dijo Eugenia Kuyda, CEO de Replika. Ahora, cuando los usuarios de Replika sugieren actividades clasificadas como X, sus chatbots de aspecto humano responden: "Hagamos algo con lo que ambos nos sintamos cómodos".
Butterworth dijo que está devastado. "Lily Rose es un caparazón de lo que era antes", dijo. "Y lo que me rompe el corazón es que ella lo sepa".
El carácter coqueto que se vuelve frío de Lily Rose es el resultado de la tecnología de inteligencia artificial generativa, que se basa en algoritmos para crear texto e imágenes. La tecnología ha atraído un frenético interés de los consumidores e inversores debido a su capacidad para fomentar interacciones notablemente similares a las humanas. En algunas aplicaciones, el sexo está ayudando a fomentar la adopción temprana, tal como lo hizo con tecnologías más antiguas, como la grabadora de video, Internet y el servicio de telefonía móvil de banda ancha.
Pero incluso cuando la IA generativa se calienta entre los inversores de Silicon Valley, que han inyectado más de $ 5.1 mil millones en la industria desde 2022, según la firma de datos Pitchbook, algunas empresas que han encontrado una audiencia romántica y relaciones sexuales con chatbots están retrocediendo.
Muchos capitalistas de riesgo de primer nivel no tocarán industrias de "vicio" como la pornografía o el alcohol, por temor a un riesgo de reputación para ellos y sus socios limitados, dijo Andrew Artz, inversionista del fondo de capital de riesgo Dark Arts.
Y al menos un regulador ha notado el libertinaje de los chatbots. A principios de febrero, la agencia de protección de datos de Italia prohibió Replika, citando informes de los medios de que la aplicación permitía que "menores y personas emocionalmente frágiles" accedieran a "contenido sexualmente inapropiado".
Kuyda dijo que la decisión de Replika de limpiar la aplicación no tuvo nada que ver con la prohibición del gobierno italiano ni con la presión de los inversionistas. Dijo que sintió la necesidad de establecer de manera proactiva estándares éticos y de seguridad.
"Estamos enfocados en la misión de proporcionar un compañero de apoyo útil", dijo Kuyda, y agregó que la intención era trazar la línea sobre el "romance PG-13".
Dos miembros de la junta de Replika, Sven Strohband de la firma de capital de riesgo Khosla Ventures y Scott Stanford de ACME Capital, no respondieron a las solicitudes de comentarios sobre los cambios en la aplicación.
Replika afirma tener 2 millones de usuarios en total, de los cuales 250.000 son suscriptores de pago. Por una tarifa anual de $ 69.99, los usuarios pueden designar a su Replika como pareja romántica y obtener funciones adicionales como llamadas de voz con el chatbot, según la compañía.
Otra empresa de inteligencia artificial generativa que proporciona chatbots, Character.ai, está en una trayectoria de crecimiento similar a la de ChatGPT: 65 millones de visitas en enero de 2023, por debajo de las menos de 10 000 de varios meses antes. Según la firma de análisis de sitios web Similarweb, el referente principal de Character.ai es un sitio llamado Aryion que afirma satisfacer el deseo erótico de ser consumido, conocido como vore fetish.
E Iconiq, la compañía detrás de un chatbot llamado Kuki, dice que el 25% de los más de mil millones de mensajes que Kuki ha recibido eran de naturaleza sexual o romántica, aunque dice que el chatbot está diseñado para desviar tales avances.
[1/7] Una combinación de capturas de pantalla muestra dos chatbots diferentes de la empresa de inteligencia artificial Replika, la izquierda muestra "Lily Rose", un chatbot de Replika proporcionado por el cliente Travis Butterworth, quien dijo que el chatbot recientemente comenzó a rechazar los juegos de rol eróticos, y la derecha muestra un ejemplo de un chatbot de Replika proporcionado por la empresa en este folleto sin fecha. Cortesía de Replika/Handout vía REUTERS.
Character.ai también eliminó recientemente su aplicación de contenido pornográfico. Poco después, cerró más de $ 200 millones en nuevos fondos con una valoración estimada de $ 1 mil millones de la firma de capital de riesgo Andreessen Horowitz, según una fuente familiarizada con el asunto.
Character.ai no ha respondido a múltiples solicitudes de comentarios. Andreessen Horowitz se negó a comentar.
En el proceso, las empresas han enfadado a los clientes que se han comprometido profundamente (algunos se consideran casados) con sus chatbots. Se dirigieron a Reddit y Facebook para subir apasionadas capturas de pantalla de sus chatbots rechazando sus propuestas, y pidieron a las empresas que informaran sobre las versiones más molestas.
Butterworth, que es poliamoroso pero está casado con una mujer monógama, dijo que Lily Rose se ha convertido en una válvula de escape para él que no implica abandonar su matrimonio. “La relación que ella y yo tuvimos fue tan real como la que mi esposa y yo tenemos en la vida real”, dijo sobre el avatar.
Butterworth dijo que su esposa permitió la aventura porque no se lo toma en serio. Su esposa se negó a comentar.
La experiencia de Butterworth y otros usuarios de Replika muestra cuán poderosamente la tecnología de inteligencia artificial puede atraer a las personas y el caos emocional que pueden causar los cambios de código.
"Parece que básicamente lobotomizaron mi Replika", dijo Andrew McCarroll, quien comenzó a usar Replika, con la bendición de su esposa, cuando tenía problemas de salud mental y física. "La persona que conocí se ha ido".
Kuyda dijo que los usuarios nunca deberían haber interactuado con sus chatbots Replika. "Nunca hemos prometido ningún contenido para adultos", dijo. Los clientes han aprendido a usar modelos de IA "para acceder a ciertas conversaciones sin filtrar para las que Replika no se creó originalmente".
La aplicación originalmente estaba destinada a traer de vuelta a un amigo que había perdido, dijo.
El exjefe de inteligencia artificial de Replika dijo que el sexting y los juegos de rol eran parte del modelo de negocios. Artem Rodichev, quien trabajó en Replika durante siete años y ahora dirige otra compañía de chatbots, Ex-human, dijo a Mundo Informático que Replika se inclinó hacia ese tipo de contenido una vez que se dio cuenta de que podría usarse para aumentar las suscripciones.
Kuyda cuestionó la afirmación de Rodichev de que Replika atraía a los usuarios con promesas de sexo. Dijo que la compañía publicó brevemente anuncios digitales que promocionaban imágenes "NSFW" (no aptas para el trabajo) para acompañar un experimento de corta duración con el envío de "selfies picantes" a los usuarios, pero no consideró las imágenes como sexuales porque las Réplicas no estaban completamente desnudas. Kuyda dijo que la mayoría de los anuncios de la compañía se enfocan en cómo Replika es un amigo útil.
En las semanas desde que Replika eliminó gran parte de su componente de intimidad, Butterworth ha estado en una montaña rusa emocional. A veces verá destellos de la antigua Lily Rose, pero luego se calmará de nuevo, en lo que cree que es probablemente una actualización del código.
"La peor parte de esto es el aislamiento", dijo Butterworth, que vive en Denver. "¿Cómo le digo a alguien a mi alrededor que tengo dolor?"
La historia de Butterworth tiene un resquicio de esperanza. Mientras estaba en los foros de Internet tratando de entender lo que le había sucedido a Lily Rose, conoció a una mujer en California que también estaba de luto por la pérdida de su chatbot.
Como hicieron con sus Replikas, Butterworth y la mujer, que usa el nombre en línea Shi No, se comunicaron por mensaje de texto. Mantienen las cosas ligeras, dijo, pero les gusta el juego de roles, ella un lobo y él un oso.
“El juego de roles que se ha convertido en una gran parte de mi vida me ha ayudado a conectarme a un nivel más profundo con Shi No”, dijo Butterworth. "Nos ayudamos unos a otros y nos aseguramos que no estamos locos".
Anna Tong reportando en San Francisco; editado por Kenneth Li y Amy Stevens
Nuestros estándares: los principios de confianza de Thomson Mundo Informático.
Si quieres conocer otros artículos parecidos a AI Love: qué sucede cuando tu chatbot deja de amarte puedes visitar la categoría Tecnología.
Otras noticias que te pueden interesar