Desde tiempos muy remotos había en Europa un tipo de perro mediolíneo, de corpulencia y talla medias, con temperamento vivo y movimiento fácil, resistente a la fatiga y excelente adaptación a cualquier medio y tarea que con el tiempo iría formando diferentes razas de pastor. Este animal recibe el nombre de Pastor Continental por parte de algunos autores.
Una de esas razas formadas con el paso de los años sería el Ovejero Belga (Pastor Belga); sin embargo, no fue hasta 1891 cuando se estructura su concepción actual con la creación del Club du Chien de Berger Belge. Uno de sus promotores fue el profesor Reul, quien a finales de ese mismo año organizó en la Facultad de Veterinaria de Cureghem, cerca de Bruselas, una reunión de perros preseleccionados entre los ganaderos de Brabante y zonas cercanas. La inscripción alcanzó la cantidad de 117 ejemplares, número sorprendente incluso hoy día; entre ellos había gran semejanza en el tipo y gran diferencia en la textura, longitud y color del manto.
El profesor Reul fue quien redactó el primer estándar, que se aprobó en 1892. Al principio se establecieron tres variedades, pelo largo, pelo duro y pelo corto, todas ellas podían ser de color negro de distinta tonalidad, incluso gris, o marrones en toda su gama.
Las diversas variedades se fueron creando en diferentes zonas de Bélgica; por ejemplo, los negros de pelo largo se cimentaron en la zona cercana a los bosques de Soignes, donde estaba el castillo de Groenendael. Al comenzar el siglo XX surgen tres criaderos diferentes, de importancia vital para la raza; la misma que tuvo al finalizar la I Guerra Mundial, cuando permitió fundar dos de los afijos más importantes en su historia. La popularidad mundial de esta variedad se debe a una criadora francesa, quien consiguió innumerables campeones con su sistema de selección.
La variedad de pelo duro era al principio menos homogénea, procedía básicamente del ganadero A. Janssen, de la localidad de Laeken. Estos perros eran básicamente de color gris ceniza, lo que levantó cierta polémica.
La variedad de pelo corto posee unos orígenes idénticos a la variedad de pelo duro; sin embargo, se desarrolló en la zona de Malines, donde en 1898 se formó un club para el desarrollo del Pastor Belga de pelo corto. Es en esa fecha cuando pasan a ser obligatoriamente de color leonado, preferiblemente con máscara.
Los orígenes del Pastor Belga de pelo largo leonado son los mismos que los de pelo negro, no hay que olvidar que ambas variedades se encuadraban en el mismo epígrafe en los inicios de la raza. En 1899 se eliminaron del estándar a los perros leonados de pelo largo, por lo que al estallar la I Guerra Mundial prácticamente desaparecieron de Bélgica. No es hasta finalizar la segunda contienda mundial cuando se llegó a recuperar esta variedad.
