Tras derivas, Microsoft y OpenAI canalizan Bing Chat

Este miércoles, Microsoft publicó una publicación de blog que describe los próximos cambios en el chatbot de IA de Bing, mientras que OpenAI publicó una publicación en su blog de tecnología el jueves con más detalles sobre cómo también ajustó su modelo. De hecho, las dos empresas se enfrentan a un auge de la actividad en sus respectivos chatbots y los errores se multiplican. Por su parte, la última versión de Bing Chat solo lleva una semana disponible, pero rápidamente ha ganado popularidad. La empresa de Redmond menciona en una publicación un "mayor compromiso" desde el lanzamiento del navegador mejorado con IA en 169 países. Según ella, alrededor del 71% de los usuarios dieron un "pulgar hacia arriba" a las respuestas proporcionadas por Bing Chat.

Aún así, algunos comentarios llevaron a Microsoft a intervenir. Ya sea una conversación prolongada con un reportero del New York Times en la que Bing se preguntó sobre el matrimonio del reportero, los insultos raciales o supuestas amenazas Al contrario de los usuarios que la probaron, la herramienta no estuvo a la altura de lo que los usuarios esperaban de un chatbot. Además, las solicitudes adolecieron de falta de actualización. En este contexto, Microsoft se ha comprometido a fortalecer la base de datos de chatbots.

OpenAI y Microsoft enfrentan errores en sus herramientas

El jueves, OpenAI publicó una larga publicación de blog que detalla los cambios en su modelo. Sin embargo, se destacan dos oraciones: “Nuestras pautas son explícitas de que los revisores no deben favorecer a ningún grupo político”, dice la publicación. "Sesgos que, sin embargo, pueden surgir del proceso descrito anteriormente son errores, no características". La publicación de OpenAI hizo referencia indirecta a los informes de que ChatGPT favorecía los puntos de vista liberales.

Microsoft planea resolver sus propios problemas de varias maneras. Primero, la compañía planea agregar una opción para controlar mejor la precisión y la creatividad de las respuestas proporcionadas por Bing. En el mundo de la generación de imágenes de IA, esto a menudo se presenta en forma de un control deslizante para seleccionar "orientación", es decir, el grado de ajuste entre el resultado del algoritmo y el indicador de entrada (un acompañamiento más débil le da al algoritmo más espacio para la creatividad, pero también puede sesgar los resultados en direcciones inesperadas). Microsoft dijo que esto se está manifestando de formas inesperadas ya que los usuarios usan el chatbot para "entretenimiento social", aparentemente refiriéndose a las largas y extrañas conversaciones que puede producir.

Demasiado ocupado, Bing sale de las uñas.

Pero el editor también dijo que, para bien o para mal, es probable que disminuya la forma en que Bing interactúa con los usuarios durante las sesiones de chat prolongadas. “Descubrimos que en sesiones de chat largas y extendidas de 15 o más preguntas, Bing puede volverse repetitivo o solicitar/solicitar respuestas que no son necesariamente útiles o consistentes con lo que diseñamos”, dijo la sociedad. Ella postula la razón por la que el modelo se "confunde" con sus respuestas y puede estar sesgado hacia producir "un tono en el que el estilo de respuesta no es considerado". Este es un "escenario que requiere muchas indicaciones", pero puede suceder, según Microsoft. En tal caso, propone "refrescar el contexto de una manera más fácil".

Finalmente, el equipo de Bing está considerando otras funciones, como reservar vuelos o enviar correos electrónicos. Se agregarán en "versiones futuras". Subjetivamente, nuestro colega de IDG en una prueba encontró que Bing es un poco tosco y correcto, estableciendo pautas estrictas que intenta cumplir. Una vez que se superan estos límites, "Sydney", como algunos la llaman, puede revelar una personalidad extraña, salvaje y, a veces, poco atractiva. Pero también es cierto que actualmente, la parte creativa de ChatGPT y Bing es con la que más recurren los usuarios. Queda por ver cómo Microsoft equilibrará los dos.