Karl Louis Dobermann era vigilante nocturno, cobrador de impuestos y ejecutor de encargos judiciales, trabajos que en su época eran un tanto arriesgados, por lo que decidió seleccionar un tipo de perro con gran agresividad, valor y temple, para que pudiera ayudarle como defensor incondicional.
Por aquel entonces, alrededor de 1870, los perros en Alemania eran utilizados en el pastoreo, caza y, algunas razas de Pinscher, como guardianes. El señor Dobermann decidió realizar un cruce con dos ejemplares Pinscher del que nació la perra «Bismark», a la que posteriormente llamó «Bisart» para evitar suspicacias. Este animal poseía el carácter deseado, era muy molosa (de gran tamaño) y negra con focados amarillos.
Toda la descendencia de esta perra poseía un extraordinario carácter, por lo que poco a poco los Pinscher del señor Dobermann fueron adquiriendo gran popularidad, tanto que adoptaron este nombre, primero Dobermann Pinscher (en Estados Unidos todavía se les denomina así) y después sólo Dobermann. Esta raza es una de las pocas que lleva el nombre de su primer criador conocido.
Aunque no se sabe con exactitud los ejemplares que intervinieron en la formación de la raza, lo que resulta indudable es la participación de «perros de los carniceros», nombre antiguo con el se conocía a los antepasados de los Rottweiler. Lo que sí queda patente al estudiar el pedigrí de uno de los primeros ejemplares de Dobermann, nacido en 1906, es que en la formación de la raza intervino el Manchester Black and Tan Terrier. En 1909 se incorporó a los cruces el Lebrel Inglés negro, que aportó mayor altura y elegancia.
La primera aparición de un Dobermann en una exposición fue en 1896, pero la raza no fue reconocida hasta un año después. Su frecuente utilización como perro de policía les valió el sobrenombre de «perros gendarme». Dado que en épocas pasadas llegó a tener cierta impopularidad debido a su carácter, los clubes de razas desarrollan una labor de selección de ejemplares altamente equilibrados.
Por sus cualidades, el Dobermann ha ido atravesando fronteras desde Apolda, localidad de Turingia, región central de Alemania, hasta los más remotos lugares del mundo.