El Rottweiler es una raza que se produce casi de forma fortuita entre los cruces de los perros que llevaban los romanos, antiguos molosos tibetanos, en su dominio hacia el norte de Europa con los ejemplares autóctonos, entre ellos el desaparecido Bullenbeiser.
La ciudad de Rottweil era, un importante centro comercial de ganado, por lo que los comerciantes, principalmente los carniceros, necesitaban perros fuertes, capaces de proteger las reses compradas, así como el efectivo recaudado en sus transacciones comerciales. Se dice que les colocaban el dinero en una bolsita en el collar para así no arriesgarse a ser atracados.
En Alemania, a finales del siglo XIX y principios del XX, se prohibió la circulación de ganado por caminos principales y carreteras, factor que junto a la aparición del ferrocarril y a la sustitución del perro por el asno como animal de tiro provocó la casi desaparición del Rottweiler Metzgerhund, nombre antiguo de este perro. Ante tal circunstancia, en 1905 las autoridades de Rottweil decidieron recuperar aquella raza propia y que tanta fama había alcanzado tiempo atrás. En este afán de recuperación incluso dieron subvenciones por cada camada nacida.
Poco a poco, dada su versatilidad para el trabajo, ya que lo mismo cuidaba del ganado que protegía los bienes de su propietario, tanto la policía como el ejército empezaron a utilizarlos en sus misiones. Durante todo ese tiempo el Rottweiler tenía un aspecto mucho más ligero, con poca osamenta, escaso desarrollo muscular, cabeza más bien alargada, etcétera.
De 1907 data el club alemán de la raza, que dirige y fomenta su crianza. De modo que en la década de 1950-1960, su selección se orienta hacia los ejemplares de estructuras más pesadas y compactas, con cabezas más fuertes, pómulos prominentes y hocico más corto, lo que derivó en perros cada vez de mayor peso, de unos 30 kilogramos pasaron a 50-55 kilogramos en los machos.