民国10年，该部改编为粤军第一师第四团，黄质胜任二营三连连长，先后参加讨伐
陆荣廷、第一次北伐、第一次东征
陈炯明、平定
广州市、第二次东征陈炯明等。
民国15年，广东革命政府举行第二次北伐，黄质胜所在的
国民革命军第四军改编为国民革命军第四军，是年12月，第四军扩编出第十一军，他升任该军第十师第二十八团
上校团长。
民国16年4月，
蒋介石在上海发动反革命政变；7月，武汉政府也实行反共清党。当时第十一军除第十师和直属部队外，其余部队及第四军叶挺
独立旅（北伐后已编成独立旅），由叶挺、贺龙率领开往
南昌市。8月1日，中国共产党发动
南昌起义，组织革命委员会，叶挺还以军长之名指挥第十一军第十师。但第十师师长蔡廷与黄质胜商量后，趁该军回师
广东省之际，于途中设法脱离共产党的控制，重建第十一军，重新组织该军的二十四师、二十六师、他于10月上旬出任第二十四师
少将师长，后又授予
中将军衔。
民国17年2月，二十四师奉命回驻
广州市，收编民军宁克烈部编为该师独立营。5月，又奉命回防高雷地区负责清乡，因属下宁克烈部的两个连，驻山口范德星团的一个连，相继投奔共产党，而特务营营长，学兵营长及驻山口连的连长，又分别被乱兵击毙。基于这一严重事件，黄质胜以失职电请辞职。
民国22年4月，他受十九路军委派任淞沪抗日残废军人教养院院长。7月，又参加对
十万大山国家级自然保护区的调查，后被委任为军垦第三区主任，驻徐闻办军垦，至民国27年末回乡。回乡不久，黄质胜出任
灵山县抗日自卫统率委员会主任委员。
民国28年11月，侵华日军登陆钦州湾，
南宁市失陷，经第二十六集团军总司令举荐，任广东南路第三游击队司令，统率以灵山抗日群众为主体的广东南路第三游击队，至日军退出钦州时解散卸任。
民国37年1月~民国38年7月，黄质胜任
广东省第八清剿区副司令兼任灵山县县长。任职期间大肆清乡，强制实行联保并村围闸，围攻革命队伍和村庄，疯狂搜捕中国共产党员和革命群众。