1876年11月6日、ヴュルテンベルク王国(現在のバーデン=ヴュルテンベルク州)のオーリンゲン(Öhringen)で生まれた。軍人一家の出身で、幼少期から軍事教育を受け、1894年7月3日、バイエルン軍の鉄道大隊士官候補生として入隊した。1896年2月27日、第1バイエルン工兵大隊で少尉(Leutnant)に任官し、工兵としての基礎を固めた。この時期の鉄道・工兵経験は、後の自動車化部隊の指揮に直結した。
第一次世界大戦中はドイツ帝国陸軍の工兵として東部戦線と西部戦線で活躍。塹壕戦や橋梁構築、破壊工作に従事し、1918年までに少佐に昇進した。戦功により鉄十字章(1914)を受章。戦後の混乱期にヴァイマル共和国軍(Reichswehr、ライヒスヴェーア)に所属し、軍の近代化に注力。1920年代初頭には装甲車部隊の責任者を務め、1923年に大佐代理(Oberstleutnant)、1928年に大佐(Oberst)に昇進した。
1920年代のヴァイマル共和国軍時代に、ルッツは自動車化部隊の責任者として頭角を現した。ヴェルサイユ条約により重装備が禁止された中、1922年から1933年にかけてのソ連-ドイツ秘密軍事協定(ラッパロ条約に基づく軍事協力)で中核的な役割を果たした。特に、カマ川河畔のカザン近郊に設置された「カマ戦車兵学校」(Panzerschule Kama)の監督者として、1929年から1932年までドイツ軍将校の戦車訓練を主導。この施設は両国共同の中央戦車試験・訓練地として機能し、ルッツはドイツ側代表としてソ連のT-18 軽戦車や自国プロトタイプのテストを監督。装甲戦の戦術・運用ドクトリンを開発し、後の電撃戦(ブリッツクリーク)の原型を形成した。
1931年4月1日、自動車輸送部隊検査官(Inspekteur der Verkehrstruppen)に任命され、少将(Generalmajor)に昇進。参謀長にハインツ・グデーリアンを任命し、ヴァルター・ネーリング少佐を補佐として加えた。このトリオは装甲部隊の基盤を築き、グデーリアンの理論をルッツの実務的指導で実装。エルンスト・フォルクハイム(Ernst Volckheim)ら初期の装甲擁護者とも連携し、装甲車部隊の拡大を推進した。1933年2月1日には中将(Generalleutnant)に昇進し、陸軍の自動車化を全面的に監督。この時期の取り組みは、ポーランド侵攻やフランス侵攻での電撃戦成功の基盤となった。
1935年、装甲兵大将(General der Panzertruppe)に昇進し、装甲部隊司令部(Panzer Troops Command)の司令官および機械化部隊の責任者に就任。初の装甲師団編成を推進し、装甲部隊(Panzerwaffe)の組織化を加速させた。1930年代初頭の秘密開発で生まれた「農業用トラクター」と称したプロトタイプ戦車を基に、I号戦車やII号戦車の量産を監督。訓練プログラムを強化し、通信・偵察統合の戦術を確立した。
しかし、グデーリアンが1935年に装甲師団指揮に移った後、後任のフリードリヒ・パウルスが参謀長に就任。パウルスの非効率性が開発の勢いを減速させ、ルッツ自身もヒトラーの好戦的政策(例: スペイン内戦への介入拡大)に批判的姿勢を示した。これにより、1938年2月にヒトラーの信頼を失い、現役を強制退役。退役時の階級は装甲兵大将のままだった。
第二次世界大戦勃発後、1941年9月22日に特別参謀ユニットの責任者として再召集されたが、慢性疾患(心臓関連の持病)のため1942年5月31日に再退役。戦時中の役割は限定的で、主に後方支援の諮問に留まった。1944年2月26日、ミュンヘンで67歳で死去。死因は長期疾患によるものとされる。遺体はミュンヘン近郊の墓地に埋葬された。