同邻国法国不同的是，在德意志人生活的土地上，联邦制有着很悠久的历史。法国人很早就建都巴黎，并将巴黎建设成集权制度的核心。而在德国，大大小小的王侯则一直是各自属地的真正统治者。

局部决定整体

德国在历史上长期处于诸侯割据的状态，有很多大大小小的王公贵族领地，稍后还出现了一些独立城邦，他们拥有各自的司法，货币和关税制度。在长达数百年的时间里，统治德国的并不是中央政权，而是众多大大小小的邦国。诸侯们同德国皇帝之间虽有契约确定附属关系，但战争状态下，诸侯们效忠皇帝的前提往往是为自己争取更多更大的权力。随着诸侯权力的不断扩充，最终他们竟然可以象主权国家一样开展外交活动。

德国的普鲁士化

德意志诸邦中，普鲁士无疑是最强大的，但即便是在普鲁士于1871年建立德意志帝国之后，各邦仍可以通过联邦参议院左右德国政治，而帝国议会则需要在重要议题上依赖参议院的支持。直到国家社会主义兴起之后，德国的联邦制传统才首次被中断。

重建帝国

1933年1月30日，纳粹完成所谓"接管权力"之后，立即开始了削弱联邦州权限的步骤。整整一年之后，1934年1月30日《帝国重建法》正式取消了各联邦州迄今所拥有的权力。联邦制下各州的自治被所谓的"地方执政官"所取代，地方执政官直接听命于柏林的国家社会主义政府。就此柏林纳粹当局开始独揽大权，得以将自己的政治意愿强加给联邦州。

重建民主

二战后战胜国认为这种权力的高度集中，最终导致德国走向领袖式独裁的道路。有鉴于此，经过一系列会议及磋商，战胜国决定恢复被纳粹剥夺的各联邦州的权限。而因战后德国版图的变化，也因此出现了一些新的联邦州。

德国东西部都出现了新的州

成立于1945年的梅克伦堡前波莫瑞州是梅克伦堡同前波莫瑞战后仍属于德国版图的部分合并而成。而莱茵兰法尔茨州则是1946年在莱茵省南部，莱茵黑森和拿绍南部以及莱茵法尔茨的基础上成立的。萨克森-安哈特州是在马格德堡和哈勒-梅泽堡等省的版图上成立的。北莱茵威斯特法伦州则是在普鲁士威斯特法伦省，莱茵省北部地区以及自由城邦利普的地界上成立的。

民主德国境内各州

1945年，根据苏联军管当局的指令，德国东部也划定了一些新的州，但1952年7月23日这些新州事实上又被取消了。按照《建设社会主义行政规划》的精神，州的权限被下放给了县区政府。在此，联邦制不得不向统一社会党的中央集权低头。九十年代初，民主德国首次通过民主选举产生的人民议会就通过了恢复原有州建制的法案，就此，东德也建立起了西德式的联邦制。

现实中的联邦制

二战的惨痛教训使得德国必须避免再次出现中央集权的政治模式。因此，制定基本法时的一个重点就是如何保障各联邦州的权力不被削弱。与此同时，还必须通过加强各联邦州的立法权，以制约中央政府的权限。鉴于在联邦和各州层面上各种政治势力的权力格局并不相同，因此这种相互制衡的政治机制在今天已经得到了事实上的保障。

变革的尝试

不过，对联邦制的质疑从来没有平息过，最初的设计错误至今仍会给联邦制带来难题。鉴于各联邦州的规模和经济实力相差甚远，因此经济实力强的联邦州向较小联邦州提供补贴资助将是一个长期存在的现象。因此，五十年代盟军就曾提请联邦政府重新划分联邦州边界，以减少地区差异。重新划分州界的尝试每次都以失败告终。最后一次是1996年柏林同勃兰登堡州合并的计划就因全民公投未获通过而不了了之。

1970年代以来，还曾有过多次重新划分联邦政府与各联邦州权限的尝试，但修宪委员会和两德统一后联邦参议院和联邦议院共同组成的宪法委员会都无法就有关提案达成共识。

联邦制改革

但对联邦制进行改革的呼声却有增无减，因为在一些特定的政党组合下，政府将几乎无法行使职责。有鉴于此，联盟党和社民党于2006年通过了一项改革计划。按照这一计划，一方面联邦州的权责范围被减少，但另一方面，各州的发言权仍然得到保障。比如在教育政策方面联邦州具有完全的决策权。此外，在公务员法、监狱以及环境保护法等领域，各州获得了更多的职权或现有职权得以保留。不过，就总体而言，联邦州拥有否决权的法律从50项减少到了33项。

尽管德国的联邦制招致很多批评，但它已成为德国政治生态一个不可或缺的组成部分。一方面联邦制下的各联邦州州长会像中世纪的贵族一样捍卫本州的独立性，另一方面，联邦制也逐渐产生了巨大的凝聚力，否则，二战后涌入的数千万难民以及两德统一所带来的经济负担都不可能在那么短的时间内得到化解。