1942年6月，胶县县委书记李奎生被捕，正在胶县巡视工作的中共南海地委委员、民运部长矫枫立即代理书记，主持工作，后经南海地委批准留任胶县县委书记。此时，我党在胶、即两县唯一的一支地方武装——胶即大队一直活动于即墨区境内，胶县党组织的发展没有地方武装的配合，一直处于不利的境地。因此，新一届县委决定将已暴露和不适宜继续开展秘密工作的党员干部迅速组织起来，建立县委直接领导的抗日武装——胶县独立营。

胶东半岛区党委、胶东军区对在胶县建立地方武装的工作十分重视，决定将胶即大队拨归即墨县，改番号为即墨县大队，指令胶县县委就地组建自己的地方武装。

根据上级指示，县委安排所有干部分头下乡，动员已暴露的党员干部带领有觉悟的青年农民参加自己的军队。短期内，报名者即达200多人。仅河荣庄村就有26人（其中党员6人，青救会员5人）。6月中旬，报名参军的党员干部和进步群众在北乡五里子村集中，胶县独立营宣布正式建立。矫枫兼任独立营政委，原胶即大队政委王海亭任副政委。

部队初建时期，因所在地区尚为国民党姜黎川部所控制，为维持与姜黎川的统战关系，并使部队得以顺利发展，县委书记矫枫与姜黎川部二团团长姜北海商定，胶县独立营对外暂以姜黎川部二团十一连的名义出现，活动于胶平边区。10月，姜黎川反共面目逐渐暴露，撤销姜北海二团团长职务，斗争形势更加恶化。月底，胶县独立营组成3个连队，1个便衣侦察班（下设数处情报站），连排干部大都由军分区从主力部队委派，新战士多为本县人。队伍很快发展到270余人。12月，胶东军区派阎学顺任营长，徐学忠任副营长，并正式启用胶东军区南海军分区胶县独立营的印鉴。至此，胶县独立营已初步成为编制完整，干部齐全，纪律较好的一支地方抗日武装。

独立营成立时，正抗日战争最艰苦时期，斗争环境十分恶劣。1943年1月，独立营和县委机关由东北乡转移到胶平边界金城乡驻防时，遭到了日伪军的包围。在灵神庙，独立营与日伪发生激战，打死敌伪营长、副营长等10余人，独立营也损失巨大，有19名官兵牺牲。以后，在县委领导下，独立营全力整顿，队伍又恢复到3个连队270多人。

灵神庙战斗后，全体指战员意志更加坚强，抗日决心更大。为使部队尽快得到休整，县委书记矫枫请示南海军分区同意，并与平南县县县书记王建明取得联系，部队以南海独立二营的名义开到平南，随南海军分区主力部队和平南县县大队一起开辟新区，并在这一带打击了高密市投降派董希展部，击溃顽军王尚志部。经过锻炼，部队战斗力不断增强。

11月，胶县抗日民主政府建立后，经南海军分区批准，胶县独立营改为县大队，设3个分队，300余人，县长姜谔生兼任大队长（姜谔生牺牲后，县大队长由韩育民继任），董洪运任副大队长，矫枫兼任大队政委，王海亭任政治协理员。各区设有区中队，由各区区长任区中队长，区委书记任政治指导员，并设副中队长1人、副政治指导员1人，各区中队队员三、五十人不等，隶属县大队和区委会双重领导。

1944年3月，后屯、北都、丰隆、胶莱、沽河分区委建立后，区级政权和区级武装相继建立，在县委、县政府领导下，进步青年踊跃参军参战。由于各区中队多为本地人，熟悉当地的地形和民情，也熟悉敌伪地方势力的情况，对于加强根据地建设，配合县大队、铁路武工队打击和瓦解日伪军、保护人民群众发挥了重要作用。至年底，县大队发展到400余人，区级武装发展到近200人。为适应战争需要，根据南海军分区命令，恢复胶县独立营，黄尚诚任营长，矫枫仍兼任政委，原县大队下属各区中队，仍归属胶县独立营领导。