Es un final bastante rápido para Classifier, la herramienta de IA para detectar trabajos escritos por IA desarrollada por OpenAI. Hay que decir que la solución realmente no tuvo el efecto esperado cuando se lanzó. CuandoAbiertoAI lanzó Classifier en enero, se suponía que era lo suficientemente bueno como para detectar si un usuario (digamos, un estudiante) había usado ChatGPT u otro programa de inteligencia artificial para escribir un artículo. OpenAI introdujo Classify como una forma para que un profesor identificara si un ensayo, por ejemplo, había sido escrito por la IA en lugar de ser un trabajo original. Pero la herramienta tuvo problemas cuando la probamos, incluida la identificación de obras famosas como generadas por IA.

En lugar de resolver los problemas, OpenAI decidió cerrarlo. La página que dirige al Clasificador está vacía y OpenAI agregó esto al anuncio original de la herramienta Clasificador: “A partir del 20 de julio de 2023, el Clasificador AI ya no está disponible debido a su baja tasa de precisión. Estamos trabajando para integrar comentarios y actualmente estamos investigando técnicas de procedencia más efectivas para el texto, y estamos comprometidos a desarrollar e implementar mecanismos que permitan a los usuarios comprender si el contenido de audio o visual es generado por IA".

Una tasa de error demasiado alta

En el momento del lanzamiento de Classifier, OpenAI dijo que el servicio había identificado el 26% del texto escrito por IA como auténticamente humano y consideraba que el 9% del texto escrito por humanos estaba escrito por IA. . Por el contrario, un servicio competidor, Moderación de la colmenaparecía funcionar mejor. Esta es una herramienta gratuita de detección de IA que realiza la misma función, pero devuelve un porcentaje de confianza, es decir, la probabilidad de que la muestra de texto contenga texto de IA.

Los estudiantes se han quejado abiertamente en línea de que incluso cuando escriben ensayos originales, las aplicaciones de detección de IA defectuosas pueden provocar que fallen. Los estatutos informáticos de las universidades y de los institutos sólo permiten un pequeño margen de maniobra en materia de plagio, un solo falso positivo puede comprometer la carrera universitaria de un estudiante. Es posible que la desaparición de Classifier sirva como excusa para reconsiderar cómo las instituciones educativas abordan este problema.