OpenAI ha desarrollado una herramienta llamada OpenAI Classifier, destinada a detectar textos generados por inteligencia artificial (IA), como los creados por ChatGPT. La idea detrás de esta herramienta es identificar si un texto ha sido redactado por un humano o una IA, lo cual podría ser útil en varios contextos, como la educación, para detectar plagios, o en medios de comunicación para verificar la autenticidad de las fuentes.
Funcionamiento del OpenAI Classifier
El OpenAI Classifier funciona analizando el texto ingresado y comparándolo con patrones aprendidos durante su entrenamiento. Utiliza un modelo de lenguaje avanzado que evalúa las características del texto para determinar la probabilidad de que haya sido generado por una IA. Los usuarios pueden acceder a la herramienta a través de una cuenta de OpenAI, ingresar el texto en una interfaz simple, y recibir una evaluación sobre la probabilidad de que el texto sea generado por una IA (Xataka) (Profesional Review).
Limitaciones y Desactivación
A pesar de las altas expectativas, la herramienta ha presentado varias limitaciones significativas. En pruebas internas, el OpenAI Classifier solo logró identificar correctamente el 26% de los textos generados por IA, mientras que etiquetó incorrectamente como IA el 9% de los textos escritos por humanos. Estas cifras indican una baja fiabilidad, especialmente en textos cortos o fuera del idioma inglés. Además, textos con información irrefutable, como listas de números primos, no pueden ser evaluados efectivamente por la herramienta (La Vanguardia) (Profesional Review).
Debido a estas limitaciones, OpenAI decidió desactivar el OpenAI Classifier, afirmando que no debería ser utilizado como una herramienta principal para la toma de decisiones. La empresa señaló que la herramienta no alcanzó el nivel de precisión necesario para ser considerada confiable, lo que llevó a su retirada después de aproximadamente seis meses de pruebas (La Vanguardia).
Limites desalientan
Aunque la idea detrás del OpenAI Classifier era prometedora, las limitaciones en su precisión y fiabilidad han impedido que se convierta en una herramienta práctica y efectiva. Esta experiencia subraya los desafíos continuos en el desarrollo de tecnologías de IA capaces de evaluar y diferenciar de manera precisa entre textos generados por humanos y por IA. OpenAI continúa explorando nuevas maneras de mejorar estas tecnologías, pero por ahora, la detección precisa de textos generados por IA sigue siendo un desafío en evolución.
