二战后，德国在犹太人眼里只是一个充满恐怖回忆的地方。纳粹大屠杀的少数幸存者大部分都选择离开德国。1948年建国的以色列几乎无法想象与德国建立起友好的双边关系。然而，联邦德国第一任总理阿登纳却知难而进。

一开始，以色列政府拒绝与德国进行任何接触。阿登纳总理因此首先与犹太人组织沟通，并开始了所谓的赔款对话。渐渐的，两国之间终于建立了直接联系。1952年，经过长时间谈判后，双方签署了卢森堡条约。德国承诺对以色列进行金钱和物质上的补偿。到2000年底，德国对以色列的赔偿总计达550亿欧元。

通过赔偿的方式，双方朝着相互靠拢的方向迈出了第一步。但是，建立外交关系仍无从谈起。巴以之间的冲突更使德国与以色列的关系背上重负，因为德国一直和阿拉伯世界保持着友好关系。

尽管如此，德以关系仍有缓慢而持续的发展。1960年，一个历史性的时刻到来了：阿登纳和以色列总理古里安在纽约阿斯托瑞亚宾馆举行会晤。

不过，直到1965年，两国的关系才终于取得突破。当时的德国总理埃哈德和以色列总理埃什科尔在信函中就建立外交关系达成一致。为此，埃哈德总理不得不承担数个阿拉伯国家与德国断交的后果。

从那以后，德国和以色列的关系不断发展。尽管纳粹时期的历史和当前有关反犹主义的讨论使之蒙上阴影，但是，可以说，德以两国现在已经建立了友谊。

双方领导人的大量互访就是很好的证明。最近一段时间，德国方面有20位政治家前往以色列，德国外长菲舍尔一个人就去了7次。以色列方面也有10几位政治家前来德国访问。

德国和以色列的关系不仅建立在政治层面上，数十年来，双方的经贸合作也有着长足的进展。 德国现在是以色列的第二大贸易伙伴国，地位仅次于美国。德以合资公司也越来越多。

不过，由于近年来中东安全局势紧张，双方的文化交流变得非常困难。在以色列工作和生活的外国艺术家，包括德国艺术家都纷纷离开。