胶东抗日根据地是山东抗日根据地的一部分，是在极其艰难的环境中白手起家创建的，是有伟大成绩的模范根据地。1939年5月13日，中央专门发出《中央关于胶东工作的指示》，认为胶东“年余发展了数千党员，创造了六、七千人的党领导的队伍，这是伟大的成绩”，并要求“建立胶东的坚固的抗日根据地”。

从1942年到1944年的3年间，胶东半岛军民在党组织的坚强领导下，以大无畏的革命气概，在极端艰难困苦的条件下，坚持敌后抗日游击战争，反“扫荡”、反“蚕食”，反封锁，英勇抗击日、伪、顽的联合进攻，巩固和扩大了胶东根据地。

1937年12月，在中共胶东特委领导下，当地抗日人民在文登县天福山森林公园举行了抗日武装起义，成立了山东人民抗日救国第三军。1938年1月，建立了第三军军政委员会。与此同时，胶东党组织在掖县、蓬莱、黄县等地发动群众，建立了4000余人的革命武装和抗日民主政府。

山东纵队成立后，抗日救国军第三军改编为山东纵队第五支队。1939年，第五支队粉碎了日伪军对以文登县大泽山区为中心的“扫荡”，开辟和巩固了以平度市、招远市、莱阳市、掖县为中心的胶东抗日根据地，巩固了西海区。与此同时，第五支队还挺进北海区，开辟和坚持了蓬莱、黄县沿海地区。是年底，成立了胶东军区，许世友任司令员，林浩任政治委员。1940年，第五支队和胶东军区部队继续向东海区的海阳市、牟平区以东发展，而且坚持了西海区、北海区的抗日武装斗争;打击了日军，粉碎了国民党顽固派和伪军的进攻，开辟和坚持了东海区根据地的抗日武装斗争。是年8月，胶东军区和地方武装相互配合，从文登县大泽山向南发展，开辟了平度市、莱阳市南部的抗日根据地。同时，在开辟的新区建立抗日民主政权，巩固了南海区抗日根据地，胶东抗日根据地得到了进一步的发展。

1941年4月，中共中央山东分局决定成立中共胶东区党委，林浩任书记。1944年，胶东半岛军民发起对日伪军的攻势作战，先后向平度以东、大泽山东部、牟平区以南、龙口市以西之敌进攻，将东海、西海、南海、渤海四个区连成一片，解放国土5000余平方公里。1945年春，胶东军民发起讨伐伪军吴化文战役，歼吴部9300多人，进一步扩大了根据地。