德国国防军(Die Wihrmacht)最初的山地师成立于1938年，当时德国吞并了奥地利，拥有山地部队的奥地利军队也并入了德军。首先组建的是第1至第3山地师，战时最多扩充到了10个师。按照当时德军的编制，一个山地师下属若干山地步兵团，山地炮兵团，山地工兵营，山地反坦克营，山地通信营，自行车(或摩托车)营以及师直属后勤部队。由于部队在山地行动时基本靠人力运输，因此无论是单兵装备，还是重型装备，也或后勤物资，都要充分考虑到士兵的负荷能力，编制的确定过程，也要加入这些因素。与一般步兵师不同，为了适应地 形特点，山地师以自行车营代替了一般部队中的侦察营。