遂宁军分区最早成立于1950年3月，1958年10月因遂宁专区并入绵阳专区而撤销，1985年2月在设立地级遂宁市后重新建立，现隶属成都军区四川省军区建制，为正师级单位，是遂宁市的军事指挥机关，同时是中国共产党遂宁市委员会的军事工作部门和遂宁市人民政府的兵役工作机构，受四川省军区和遂宁市委、市政府双重领导。

1950年3月，中国人民解放军遂宁军分区成立，由中国人民解放军第181师兼，隶属川北军区建制。

1952年9月川北军区撤销并入四川军区后，遂宁军分区改隶属四川军区（后改为四川省军区）建制。

1958年10月，遂宁军分区因遂宁专区并入绵阳专区（后改为绵阳市）而撤销并入绵阳军分区。

1985年2月8日，撤销绵阳地区，设立省辖地级绵阳市、广元市和遂宁市，原隶属绵阳地区的遂宁县、射洪市、蓬溪县划归遂宁市管辖，撤销遂宁县改置遂宁市市中区，遂宁军分区随即重新成立。

1986年6月，四川省全省214个县（市、区）人民武装部改归地方建制，性质、任务不变，受地方和军队双重领导。

1997年12月28日，析蓬溪县置大英县；2003年12月18日，撤销遂宁市市中区，分置遂宁市船山区、安居区，至此，遂宁军分区辖2区、3县人民武装部。

2020年7月，遂宁遂宁军分区政治工作处获评为“遂宁市双拥工作先进单位”。