OpenAI, el creador del popular chatbot ChatGTP, lanzó una herramienta de software para identificar texto generado por inteligencia artificial, dijo la compañía en una publicación de blog el miércoles.
ChatGPT es un programa gratuito que genera texto en respuesta a un aviso, incluidos artículos, ensayos, chistes e incluso poesía, que ha ganado gran popularidad desde su debut en noviembre, al mismo tiempo que genera preocupaciones sobre los derechos de autor y el plagio.
El clasificador de IA , un modelo de lenguaje entrenado en el conjunto de datos de pares de texto escrito por humanos y escrito por IA sobre el mismo tema, tiene como objetivo distinguir el texto escrito por IA. Utiliza una variedad de proveedores para abordar problemas como campañas de desinformación automatizada y deshonestidad académica, dijo la compañía.
En su modo beta público, OpenAI reconoce que la herramienta de detección es muy poco confiable en textos de menos de 1000 caracteres, y el texto escrito por IA se puede editar para engañar al clasificador.
«Estamos haciendo que este clasificador esté disponible públicamente para obtener comentarios sobre si las herramientas imperfectas como esta son útiles», dijo OpenAI.
«Reconocemos que identificar el texto escrito por IA ha sido un punto importante de discusión entre los educadores, e igualmente importante es reconocer los límites y los impactos de los clasificadores de texto generados por IA en el aula».
Desde que ChatGPT debutó en noviembre y ganó gran popularidad entre millones de usuarios, algunos de los distritos escolares más grandes de EE. UU., incluida la ciudad de Nueva York, prohibieron el chatbot de IA por temor a que los estudiantes usen el generador de texto para hacer trampa o plagiar.
Otros han creado herramientas de detección de terceros, incluido GPTZeroX, para ayudar a los educadores a detectar texto generado por IA.
OpenAI dijo que está interactuando con educadores para discutir las capacidades y limitaciones de ChatGPT, y continuará trabajando en la detección de texto generado por IA.
