晉西北地區位于同蒲鐵路以西，黃河以東，平綏鐵路以南，汾離公路以北，是陜甘寧邊區通向華北、華中各敵后抗日根據地的重要通道，又是阻敵西進、保衛陜甘寧邊區的重要屏障。創建晉西北抗日根據地，對堅持華北敵后抗戰有著重要的戰略意義。1937年9月中旬，毛澤東多次指示八路軍第一二0師應活動于晉西北的管涔山脈和呂梁山脈北部地區，并向綏遠、大同游擊，以鉗制日軍，配合友軍作戰。當太原失守、國民黨軍隊向晉西南撤退時，中共中央指示第一二0師進一步發揮獨立自主的作戰能力，在敵人側后的晉西北廣大山區和鄉村開展游擊戰爭。

按照中央的指示，1937年9月下旬，賀龍、關向應率第一二O師師部及第三五八旅進入山西省神池縣八角堡地區。主力部隊向同蒲鐵路、雁門關出擊，一度奪取雁門關，截斷日軍后方交通，配合了忻口戰役。10月1日，關向應率政治機關大部和教導團共700多人到達岢嵐，隨即組成工作團，分赴山西省朔縣、偏關、臨縣等14個縣，開展游擊戰爭和群眾工作。續范亭率領的動委會和新軍部隊1萬余人也進入晉西北地區。在中共晉西北臨時區委員會及犧盟會、動委會的配合下，八路軍廣泛宣傳抗日救國十大綱領和抗日民族統一戰線政策，收編散兵游勇，安定社會秩序，發動群眾，組織抗日武裝。到1938年1月，第一二0師由兩個旅三個團8200余人，擴大到六個團共2.5萬余人。晉西北各縣都成立了1000至2000人的自衛軍或游擊隊。

自1938年2月18日起，遵照八路軍總部的命令，第一二0師對同蒲鐵路北段及太原、忻縣間的公路展開破襲戰。到28日，共殲敵500余人，有力地打擊了日軍。2月下旬，日軍調集1萬余兵力，分五路向晉西北發動圍攻。日軍先后占領偏關、保德、寧武、岢嵐、河曲、神池、五寨等七座縣城，妄圖摧毀晉西北抗日根據地。為粉碎敵人的圍攻，第一二O師以第三五八旅主力轉向離石、軍渡以北地區，側擊西犯之敵；第三五九旅主力轉到岢嵐地區，阻敵南侵。3月7日，第三五九旅首先將日軍1000余人圍困于岢嵐城內，迫敵棄城北逃。第一二O師以一部兵力圍困五寨城，主力則集中在五寨至神池之間，相機殲敵。3月20日，日軍被迫全線撤退。此次反圍攻作戰，收復被日軍侵占的七座縣城，殲敵1500余人，挫敗日軍摧毀晉西北根據地的企圖，使晉西北根據地得到鞏固。在晉西北同八路軍一起對日作戰的還有續范亭率領的抗日武裝。

在平綏鐵路以北，沿大青山山脈建立游擊根據地，不僅可以屏障晉察冀邊區，守衛陜甘寧邊區的北大門，而且對牽制日軍向大西北的進攻具有重要的戰略意義。1938年5月14日，毛澤東電示朱德、彭德懷、賀龍等，在平綏路以北沿大青山脈建立游擊根據地。7月，第一二0師派出由李井泉等率領的大青山支隊，從五寨進入雁北地區。8月，向綏遠挺進。9月初，越過平綏鐵路進入大青山地區，同當地黨組織負責人楊植霖領導的蒙漢游擊隊會合。9月下旬，大青山支隊留一部在綏中活動，主力進到武川、百靈廟以西地區開展游擊戰爭。到12月，開辟以大青山為依托的綏西、綏南、綏中三塊游擊根據地，并逐步同晉西北根據地連成一片。

（中共中央黨史研究室著：《中國共產黨歷史》第一卷下冊，中共黨史出版社2002年版）