勒夫能成為德國足球最重要的人物，在某種程度上要歸功於德國死板的制度。出生於德國西南部黑森林山區的勒夫本來在瑞士已接受過教練職業訓練，但德國足協不承認他具有擔任德甲教練的資格，勒夫不得不再次上學深造。2000年夏天，他與克林斯曼一起走進了赫內夫體育學校，參加那裡專為功績卓著的前國家隊隊員舉辦的教練培訓班。

克林斯曼回憶他對勒夫的第一印象時說：「他是一個直線考慮問題的人，我很喜歡這樣的人。」四年後，當克林斯曼挑起國家隊主教練的大梁時，他把對足球策略有獨到之處的勒夫召到國家隊。從此，勒夫成了克林斯曼的親密戰友。克林斯曼認為，今天勒夫接替他擔任國家隊教練正是「大勢所趨」。

勒夫本來學習的職業是批發商。但他的興趣在足球，他先後在弗來堡、斯圖加特、法蘭克福和卡爾斯魯厄擔任活躍球員，接著在瑞士的文特圖爾和弗勞恩菲爾德兩個球隊擔任球員聯繫指導。1995年，斯圖加特隊的教練把他調到體育運動協會。

1997年德國足協錦標賽上，作為斯圖加特隊的臨時教練，他領導該隊奪得了德國足球錦標。2002年，他擔任教練的奧地利蒂洛爾隊成了奧地利的冠軍。此外，這位參加過52次德甲比賽的老將還在土耳其、德國卡爾斯魯厄和奧地利維也納擔任過教練。勒夫的特點是直來直去、毫不妥協，所以最後在奧地利也不得不掛冠而去。勒夫說，原因是「奧地利足協主席干預太多，與他的分歧太大。」

2004年7月29日，克林斯曼成了德國足球的新希望。這時，勒夫正準備去溫泉休養。接到克林斯曼的電話後，勒夫二話不說，轉而奔向義大利的科莫，與克林斯曼長談。從此，勒夫在德國國家隊的第二把手的身份確定下來，他與克林斯曼建立了互相信任的密切關係。儘管克林斯曼接手德國隊後批評之聲不斷，但他們兩人堅持既定方針，直到這次世界盃取得第三名。

克林斯曼在大賽之前就說過，勒夫能勝任國家隊教練的重擔。他甚至認為，勒夫很多方面超過他自己。勒夫主張足球應推行一種進攻型、有吸引力的哲學，在訓練中要推進個性化訓練。勒夫不僅在戰略戰術上獨有建樹，他也具有很高的領導能力。克林斯曼說：「他總能正確把握情況，做出正確的決定。」