El Bouvier des Flandres se desarrolló en los vastos pastizales de la región atlántica de Flandes, hoy dividida entre Francia, Bélgica y los Países Bajos. Su cría sistemática es relativamente reciente, ya que se lleva a cabo desde las primeras décadas del siglo XX. En esa zona los perros eran utilizados para labores de pastoreo, defensa, tiro y caza.
La hipótesis más extendida es la que afirma que el Bouvier de Flandes surgió de cruces endogámicos de los distintos perros, independientemente de la función que desarrollasen, en esa zona europea. Por ejemplo, los perros de guarda eran los Mastines autóctonos y los pastores eran canes peludos de color gris con cierta semejanza con el Pastor de Brie.
En 1891, en su libro «Les races des chiens», Adolphe Reul describe a un tipo de perro típico de los negociantes de ganado. En 1894, el conde Henry de Bylant publica en su libro «Races des chiens» una foto de aduaneros acompañados por un perro muy parecido en el tipo a los que años más tarde serían conocidos como perros de «bouvier», es decir, cuidadores de bueyes.
Los primeros cruces fueron fortuitos y de ellos surgieron ejemplares de diferentes características. Se cree que los monjes del litoral sí realizaban cruces entre perros campesinos con sus galgos ingleses de caza. Con estos cruces se buscaba un perro útil para pasar toda una vida en los campos de lino, de manera que el pelo áspero y recio se combinó con uno más largo, lo que acabó proporcionando un aspecto feroz.
Este nuevo perro fue criado en distintas regiones y su imagen se fue definiendo de diferente manera. Por ello en sus orígenes se conocían el Bouvier de Roulers (un tipo de perro muy alto, no menos de 70 centímetros, y todo negro), criado por el señor Moerman; y el Paret, muy conocido por ser el perro del ejército francés, criado por el señor Paret.
En plena polémica sobre la preferencia de los distintos tipos estalló la I Guerra Mundial, lo que significó un cierto retroceso; sin embargo, antes se hicieron varios intentos de redactar un patrón de raza, uno en 1908 y otro en 1912.
Antes de adjudicarse el nombre actual, esta raza era llamada Bouvier Belge. Precisamente llegar a un consenso por parte de las dos comisiones de la raza, la francesa y la belga, sobre el nombre influyó de una manera decisiva en su futura crianza.
La segunda conflagración mundial provocó otro retroceso en la evolución del Bouvier de Flandes y en 1959 dos nuevas comisiones fueron creadas para redactar otro estándar, que estaría vigente hasta su homologación por parte de la FCI en 1965.