Na Idade Média, a Alemanha ainda estava longe de ter suas fronteiras atuais ou mesmo as de antes das duas grandes guerras. Mas, depois de muitas batalhas e conquistas, ascensões e quedas de soberanos, um ano que pode servir de marco para a história é 911, data em que se passou do império franco oriental para o alemão (já que Carlos Magno, imperador até 814, era franco).

Em 911, Conrado 1º, duque dos francos, foi eleito rei, sucedendo à dinastia dos carolíngios. Ele é considerado o primeiro rei alemão, apesar de o título oficial ter sido "rei franco", mais tarde "rei romano".

No século 11, o império passou a chamar-se Império Romano; a partir do século 13, Sacro Império Romano; e, a partir do século 15, Sacro Império Romano da Nação Germânica. Ao mesmo tempo em que o rei era escolhido pela alta nobreza, vigorava o direito de consanguinidade, ou seja, o novo rei devia ser parente do antecessor. Isso, entretanto, nem sempre funcionou, chegando até a haver eleições duplas.

Na Idade Média, a Alemanha não tinha capital, o governo era itinerante. Não havia impostos e a autoridade do rei podia ser contestada pelos nobres. O rei só conseguia impor respeito através da força militar ou de sua habilidade em selar alianças.

Esse respeito só foi conseguido por Henrique 1º (919–936), duque da Saxônia e sucessor de Conrado 1º, e de maneira ainda mais perfeita pelo seu filho, Otto 1º (rei de 936 a 973). Por questões de estratégia política, em 952 Otto casou-se com a jovem viúva do último rei da Itália, assumindo o título de Rei dos Francos e Langobardos.

Apoio ao papa

Em 960, enfrentando dificuldades políticas, o papa João 12 solicitou o apoio de Otto, que o ajudou numa campanha na Itália. A plenitude do poder por ele alcançado manifestou-se no fato de ser coroado imperador em Roma no ano de 962. A partir de então, os reis germânicos passaram a ser candidatos à dignidade de imperadores.

Na sua concepção, o império era universal e outorgava ao soberano o domínio sobre todo o Ocidente. Essa ideia, no entanto, jamais chegou a ser realidade política plena. Para ser coroado imperador pelo papa, o rei tinha que se deslocar até Roma.

Até 1806, havia uma coroação real e outra imperial, pelo papa. Em vista disso, tornou-se necessário aos alemães não apenas o controle do pontificado como o domínio do norte e do centro da Itália, então parte integrante do império. Em 967, Otto permitiu que seu filho, Otto 2º, também fosse coroado imperador. Otto, o primeiro imperador alemão, morreu aos 60 anos de idade em Memleben (hoje estado da Saxônia-Anhalt), no dia 7 de maio de 973.