A origem do Rottweiler não está documentada. Como tal existe apenas uma suposição não documentada de que descende de um dos cães da antiga Roma, os cães chamados de “drover dogs” que tinham como propósito ajudar a puxar carros e guiar os bois para o mercado.

A transição de um cão de Roma com estas funções para o Rottweiler pode ser atribuídas ás ambições dos imperadores romanos de conquistarem toda a Europa. Exército enormes eram precisos para efectuar expedições durante as guerras, levando alimentos e trilhando o terreno. Não existia forma de refrigerar os alimentos o que queria dizer que os alimentos tinham que acompanhar as tropas vivos. Os serviços de um cão capaz de manter a manada intacta e junta durante estas longas caminhadas era necessário. Os “drover dogs” eram os cães ideias para este trabalho.

Não temos motivo para duvidar que os descendentes dos originais cães drovers romanos continuaram a fazer este serviço por mais de cerca de 2 séculos. Cerca de 260 D.C. a guerra tomou um novo curso e após a tomada da cidade de Arae Flaviae a agricultura e a troca de gado tornou-se a actividade predominante, garantindo a continuidade e necessidade destes cães.

Em cerca de 700 D.C. um duque local ordenou a construção de uma igreja cristã por cima das ruínas de uns antigos banhos romanos. A escavações feitas para esse propósito, desvendaram os azulejos

A predominância do Rottweiler como parte da cultura e do trabalho da cidade cresceu inabalada até aos meados do século 12 quando mais fama e fortuna veio parar á raça.

Com o desenvolvimento da troca de gado e desenvolvimento da profissão de talhantes, os cães começaram a ser usados cada vez mais pelos talhantes para liderar as manadas e garantir a segurança do gado. No entanto em meados do século 19 liderar gado pela estrada foi proibido e o burro e os comboios vieram substituir as carroças.

Assim os Rottweiler Metzgerhund (cães dos talhantes) deixaram de ter utilidade. O seu número entrou em radical declínio de tal forma que em 1882 um show de cães em Heilbronn na Alemanha reportou apenas um exemplar da raça como estando presente.

Os anais da cinologia não mencionam mais a raça até 1901 quando foi formado um clube que combinava Rottweiler e Leonberger. Este clube teve uma “vida curta” mas deixou a sua marca ao estabelecer o primeiro estalão para a raça, segundo as suas condutas.

Nos anos de 1901 e 1907 os Rottweilers novamente ganharam favor desta vez como cães polícia. Vários clubes surgiram da raça, quando em 1921 foi acordado fundar o Allegmeiner Deutscher Rottweiler Klub (ADRK). Por essa altura existiam cerca de 3.400 rottweilers registados por 3 ou 4 clubes. As duplicações e confusões terminaram quando o clube publicou o primeiro livro de conduta da raça em 1924.

Desde a sua formação o clube ADRK tem-se mantido intacto e os seus programas de criação promovidos quer na Alemanha quer no estrangeiro.