Generative pre-training es un tipo de aprendizaje automático que se utiliza para entrenar modelos de lenguaje que pueden generar texto de alta calidad.