1939年，李念林擔任中茶業村自衛團的通信員。1940年，李念林擔任了村民兵隊長。在此后的斗爭實踐中，他率領民兵站崗放哨、偵察敵情、傳送情報、押送俘虜、掩護群眾、保護抗戰物資、積極配合主力作戰，成為活躍在茶業山區根據地打擊日寇的一支有生力量。

　　抗日戰爭時期，敵我力量和武器裝備對比相當懸殊，地方武裝裝備簡陋，很難大量殺傷敵人。李念林通過思考，嘗試用埋設地雷的方法打擊敵人。

　　1941年秋，李念林埋設地雷襲擊日軍，初戰告捷，炸死十幾個鬼子，極大地鼓舞了抗戰軍民的士氣，《泰山時報》立刻以“爆炸大王李念林”的大字標題進行了報道。日軍吃了“鐵西瓜”的苦頭后，開始廣泛使用掃雷器，不少鐵地雷被敵人挖出、破壞。為此，李念林研制了石雷，使日軍的掃雷器在它面前成了“睜眼瞎”。

　　在不斷的實踐中，李念林又發明了連環雷、吊雷、滾雷、丁字雷等10多種布雷法。他帶領民兵隊員在道路、河邊、村口、大街、小巷、門口、井臺等到處設雷，還在敵碉堡前、據點周圍安放拴有毛巾、衣服、火柴、香煙、糕點的石雷，敵人貪財搶物，一提便炸，沒得到便宜卻喪了命。廣泛的地雷戰，狠狠地打擊了敵人。

　　在艱苦的戰斗歲月中，李念林被敵人打傷了左腿,戳傷了右臂、左手，3次被抄家、燒房，父母和兩個孩子被活活折磨死，他毫不動搖。至抗日戰爭結束，他帶領民兵隊配合主力部隊或單獨作戰300多次，斃、傷、俘敵1000余人，繳獲長槍短槍180多支、子彈1萬多發，割敵電話線2500多米。