晋西北地区，东起同蒲路北段，与晋察冀北岳区相接；西至黄河，与陕甘宁边区隔河相连；南至汾（阳）离（石）公路，与晋绥军驻区毗邻；北至大清河，与大青山区连接。

境内辖区38县，为八路军控制的县城有兴县、临县、保德、河曲县、偏关县、岢岚县6城。

1937年9月28日，第一二〇师师部率八路军第三五八旅进入神池县、八角堡地区。主力向同蒲铁路、雁门关出击，半月间在雁门关截击敌运输汽车千余辆，一度夺取雁门关，截断敌后方交通线，配合了忻口战役。之后，师政治部和教导团干部700多人，组成工作团，以岚县为中心，在静乐县、兴县、五寨县等14个县开展工作。中共晋西北临时省委随同工作团，在各地恢复与发展了党的组织，成立了岢岚、静乐、临县、兴岚、保德等地委或县委。

太原市失陷后，中国国民党元老、进步人士、“第二战区民族革命战争战地总动员委员会”(简称“总动员委员会”)主任续范亭，被阎锡山任命为山西省第二行政区(晋西北区)保安司令。续率领“总动委会”机关及保安司令部所属部队转入晋西北。这时，由前线溃退下来的晋绥军赵承绶骑一军、傅作义第三十五军、郭宗汾第三十三军、何柱国骑二军、杨爱源第十九军、王靖国第十一军，齐集晋西北，分驻各地。当时，中共公开活动受到很大限制，在多数地区是以“牺盟会”、“总动委会”名义开展工作。经过两三个月活动，晋西北各地普遍建立了各级半政权性质的“动委会”，在宁武县、神池县、五寨县、保德等9县普遍组建武装自卫队。1937年10月，以共产党员雷任民为政治委员的国民兵军官教导第九团由忻府区转移晋西北，争取与建立了临县、兴县、岚县3县政权，领导了该地区“牺盟会”，协助第一二○师开辟了这个地区。至年底，晋西北抗日根据地中心区已具雏型。

与此同时，1937年9月29日，第一二〇师第七一六团第二营组成雁北支队，由该团团长宋时轮率领，开赴雁北(雁门关以北13县总称，在同蒲路西有右玉县、左云、平鲁3县)，11月1日袭占井坪，4日收复平鲁县城。1938年初，省“总动委会”在太原、离石区组织的察绥游击军第一、第二支队，由“总动委会”军事部部长程子华率领，进入平鲁、右玉、凉城县一带活动。中国共产党山西省委员会和北方局派赵仲池、郑林等，在平鲁、右玉一带组织了雁北战时工作委员会。1937年底，中共晋西北临时省委在偏关县成立了晋绥边特委，赵仲池任书记，领导大同市、怀仁市、山阴县、左云、右玉、平鲁、偏关、河曲县等县。至此，雁北游击根据地形成。

抗日战争爆发后，1937年9月下旬，遵照党中央和中央军委的指示，贺龙与关向应等率八路军第一二〇师主力挺进抗日前线，进入晋西北管涔山脉地区。一二〇师在给敌人沉重打击的同时，会同当地党的组织和民众抗日武装，广泛发动武装群众，开展兵民结合的武装斗争。不久，续范亭等率领的山西民族革命战争战地总动员委员会(简称“动委会”或“战动总会”)和山西新军部队1万余人也进入晋西北地区。在中共晋西北临时区委及牺盟会、动委会的配合下，八路军广泛宣传抗日救国十大纲领和统一战线政策，安定社会秩序，建立武装自卫队和工、农、青、妇等抗日救亡团体，开辟了晋西北抗日根据地。到1938年1月，一二〇师即由出师时的8200人增至2.5万人。晋西北各县都建立了1000至2000人的抗日自卫军或游击队。

1938年2月起，一二〇师对同蒲铁路北段及太原市、忻府区间的公路展开破袭战，有力地打击了日军。日军调集万余人兵力分五路向晋西北发动围攻，妄图摧毁晋西北抗日根据地。一二〇师与日军激战20余天，歼敌1500余人，收复被日军侵占的7座县城，粉碎了日军的围攻，巩固了晋西北抗日根据地。

1938年5月14日，毛泽东电示朱德、彭德怀、贺龙等，在平绥路以北沿大青山脉建立游击根据地。7月，一二〇师派出由李井泉等率领的大青山支队，从五寨进入雁北地区，8月，向绥远省挺进。9月初，越过京包铁路进入大青山地区，同当地党组织负责人杨植霖领导的蒙汉抗日游击队会合。9月下旬，大青山支队留一部在绥中活动，主力进到武川、百灵庙以西地区开展游击战争。到12月，开辟了以大青山为依托的绥西、绥南、绥中三块游击根据地，并逐步同晋西北根据地连成一片，构成晋绥抗日根据地。

党领导根据地的抗日武装，同广大汉、蒙、回等各族人民一起，团结战斗，多次粉碎日伪军的“扫荡”，同时坚决反击阎锡山发动的反共事变，使晋西北成为中共统一领导的抗日民主根据地。1940年初，中共中央决定成立晋西北军政委员会，作为统一领导晋西北、晋西南、大青山地区各项工作的最高领导机关，由贺龙任书记，关向应任副书记。11月，经中共中央批准，成立晋绥军区，贺龙为司令员，关向应为政治委员，续范亭为副司令员。1942年5月，为了进一步加强党对根据地各项工作的统一领导，中共中央决定撤销晋西北军政委员会，成立中共中央晋绥分局，统一领导晋西北、晋西南、大青山3个地区的党政军民各项工作。8月，晋绥分局成立。晋西北军区亦改为晋绥军区。

从1944年开始，党领导的各敌后抗日根据地军民对日、伪军发起局部反攻。晋西北区军民在春季、秋季攻势中先后进攻静乐县、交城县、忻府区等地区的日、伪军，开辟了大片新的游击根据地，毙伤敌900余人，俘敌1000余人，收复土地770余平方公里。1944年，共解放村庄3100多个，解放人口40余万。同时，大青山解放区军民也积极开展游击战，绥西、绥南区恢复到1942年前的局面。

1945年春，八路军、新四军继续进行对日寇展开攻势作战。在春季攻势中，晋绥部队对离(石)岚(县)公路、五(寨)三(岔)公路沿线敌据点发起攻势。在东北夏季攻势中，晋绥军民从6月19日开始围困静乐县县城并对公路沿线的日军展开进攻，基本上把敌人挤到铁路沿线和少数几条公路线附近。

1945年8月，中原地区军民展开对日本侵略军的全面反攻。8月11日，晋绥军区向附近日、伪军发出限令投降的最后通牒。晋绥部队一部向平绥路以北进攻，一部沿黄河北上攻击归绥，一部在南线由同蒲路西侧反攻太原市。8月15日至19日，先后攻克太原市外围的日军据点，并一度攻入太原以南的晋源区县城，对太原形成包围。9月下旬，晋西北全境解放。此外，奉中共中央、中央军委命令，晋绥根据地的吕正操、林枫等率一批部队和干部进军东北地区，开始了新的征程。

八年抗战中，一二〇师和晋绥军区部队共作战10114次，毙伤日伪军100740人，俘虏日伪军18389人。晋绥根据地地方武装配合主力或单独作战18718次，毙伤日伪军7733人，俘虏日伪军1876人。我军指战员牺牲13700余人，伤3万余人。

晋绥抗日根据地巍然屹立在黄河以东，在陕甘宁边区的门户上给敌人竖起一道难以逾越的屏障，使日军始终未能越过黄河进犯陕甘宁边区，保卫了延安市和党中央，并确保了党中央与敌后各根据地联系的交通线。

1938年2月20日起，日军从南北两线多路围攻晋西北中心区，占领偏关县、保德、宁武县、岢岚县、河曲县、神池县、五寨县7座县城，中国国民党军队溃逃。第一二〇师师部指挥八路军第三五八旅、第三五九旅，在同蒲路北段原平、阳曲地区毁桥破路，连续攻占平社、豆罗、关城、田家庄等车站和据点，阻敌南进。2月28日，师主力急返岚县，3月6日起，集中主力4个团，加独立一支队等部队，打击深入岢岚、五寨之敌。经过围困岢岚、五寨，夜袭三井镇，组织义井镇虎北村战斗、神池凤凰山伏击战，共歼敌1500余人，至4月1日，收复7座县城。晋西北根据地稳定。

5月，第一二〇师派出由李井泉等率领的大青山支队，从五寨进入雁北地区。8月向绥远省挺进，9月初，越过京包铁路，同杨植霖领导的蒙汉人民抗日游击队会合。9月下旬，大青山支队留一部分武装在绥中县活动，主力进到武川、百灵庙以西地区进行游击战争。到12月，开辟了以大青山为依托的绥西、绥南、绥中三块游击根据地，逐步同晋西北根据地连成一片。