La startup de investigación de inteligencia artificial OpenAI lanzó una herramienta el martes para averiguar si el texto fue escrito por un humano o una computadora.
Los creadores de ChatGPT, OpenAI, lanzan una herramienta para detectar textos generados por IA
OpenAI, la compañía detrás de ChatGPT, un chatbot que puede generar texto similar al humano, se volvió viral después de su lanzamiento hace dos meses. Microsoft anunció la semana pasada una inversión multimillonaria en OpenAI y dijo que incorporaría los modelos de IA de la startup en sus productos comerciales y de consumo.
Desde que ChatGPT debutó en noviembre, algunos de los distritos escolares más grandes de los EE. UU., incluida la ciudad de Nueva York, han prohibido el chatbot de IA por temor a que los estudiantes usen el generador de texto para hacer trampa o plagiar.
El CEO de OpenAI, Sam Altman, dijo que la educación ha cambiado en el pasado con el advenimiento de las calculadoras y otras tecnologías, pero también sugirió que la compañía podría tener una forma de ayudar a los maestros a descubrir el texto escrito de la IA.
La nueva herramienta de OpenAI no es perfecta, y la compañía dice que todavía es un trabajo en progreso y que pueden ocurrir errores mientras la usa. “En nuestra evaluación de nuestro 'conjunto de desafíos' de textos en inglés, nuestro clasificador identificó correctamente el 26 % del texto escrito por la IA (verdaderos positivos) como 'probablemente escrito por una IA', mientras que el 9 % de los escritos por humanos el texto fue etiquetado incorrectamente como escrito por AI (falsos positivos)", escribió el empleado de OpenAI.
La nueva herramienta no es confiable para analizar artículos de menos de 1000 caracteres, y OpenAI desaconseja su uso para otros idiomas además del inglés. Además, el texto de la IA puede actualizarse lo suficiente como para evitar que el clasificador juzgue correctamente que no es obra de un humano.
OpenAI dice que se está acercando a los educadores para discutir las capacidades y limitaciones de ChatGPT y continuará trabajando en la detección de texto generado por IA.
En oferta en Amazon
