广东湛江军分区于1956年3月，由粤西军区改编而成立。当时隶属中南军区公安部队兼广东省军区领导。

翌年7月，湛江军分区机关与55军守备24旅旅部（驻合浦县）合并为湛江军分区。1958年11月，13个县（市）兵役局合并为8个县（市）兵役局，即阳江市、阳春市合并为两阳县兵役局；茂名市、信宜市合并为高州县兵役局；化州市、吴川市合并为化州县兵役局；雷东、湛江市合并为湛江市兵役局；遂溪县、雷州市、廉江市合并为雷北县兵役局；徐闻县改为雷南县兵役局；电白区兵役局不变；并新建了茂名市兵役局。1959年5月，湛江军分区分编为湛江军分区和守备24师（驻合浦）。兵役局恢复为人民武装部，并接收原合浦县军分区所属的合浦、灵山、钦县、东兴市4个县武装部归湛江军分区领导。1960年6月，中南军区公安部队兼广东军区改编为广东省军区，湛江军分区隶属广东省军区建制领导。1965年5月，湛江军分区又分编为湛江军分区和中国人民解放军广西钦州军分区，并将钦州军分区划归广西军区建制，合浦、灵山镇、钦县、东兴、北海镇人民武装部划归钦州军分区建制。1983年7月，湛江军分区又分编为湛江军分区和茂名市军分区，划出电白区、茂名、高州市、化州市、信宜市、阳江市、阳春人武部。

湛江军分区刚成立时，分区机关设有参谋、兵役、政工、干部、行政经济管理5个科。1957年6月，分区机关与守备24旅旅部合并，机关设司令部、政治部、后勤部、干部部、检察院、军事法院。1959年5月，分区分编后，机关只设司令部、政治部、后勤部。后来，军分区机关经过多次整编，2000年军分区司令部设作训科、通信科、机要科、军动科、装备科、直工科；政治部设组干科、宣保科、联群科；后勤部设战勤科、供应科、卫生所。