1940年2月下旬，日伪军“扫荡”牙山区，蔡部再次逃窜。1941年3月中旬，
八路军主力部队及
地方武装将蔡部击溃，解放了牙山地区。他率残部窜回高密、昌邑边区整顿。同年6月，国民党省政府又委以山东保安第十九旅旅长。秋后，他又率其精锐500余人窜至
蓬莱，驻上下门家。1942年春，被八路军赶走。他再次窜回高、昌、安边区的
潍河沿岸。1944年，被国民党编为山东挺进军第十三纵队，他任司令。
1945年
日本投降后，他率部进驻
高密市城、辛庄及蔡家庄车站一带。同年12月，改编为山东保安第二旅，他任旅长，调驻兰村车站。1946年6月，该旅被解放军歼灭后，他被国民党青岛警备司令部委以
少将高参。曾去
南京市，由
蔡自声引进，入国民党军校将官班受训数月，始返
青岛市。1947年被委任为高密县长，组织流亡政府。1948年上半年，在青岛以北赵村一带网罗旧部。同年8月，被改编为山东保安第二旅第六团，他任团长，率部进占
薛家岛。解放军
胶东半岛军区负责人曾致函劝降；后又派人前往，进行争取。他迫于形势，渐有转机。1949年4月，解放军前往接应。5月底，他率部起义，并协同解放军一举解放薛家岛。后该团编入三十二军，他仍任团长。同年10月后，在青岛
齐东路和
莱阳市等地学习。1950年底，调至
山东省农林厅做
蚕业技术工作，行政16级。