徐泗节度使的历史可以追溯到782年，当时设立了徐海沂密都团练观察使，其治所位于
徐州市。然而，这个机构实际上由淄青李纳掌控，直到784年被废除。随后，在788年十一月，徐泗濠节度使成立，但在800年被废除，泗州和濠州划归淮南节度使管辖。到了805年三月，武宁军节度使建立，辖区包括徐州、泗州和濠州，治所在徐州。809年，
宿州市加入该辖区。821年，宿州转归淮南节度使。824年十一月，徐泗节度使降格为徐泗观察使。827年七月，武宁军节度使得以恢复。833年，宿州再次并入该辖区。862年八月，武宁军节度使被撤销，
徐州市归属兖海节度使，濠州归属淮南节度使，而宿州和泗州则分别设立观察使。863年十一月，徐泗都团练观察处置使成立，负责管理徐州、泗州和濠州。869年，徐泗节度使重新设立，并增加了宿州。870年六月，更名为徐州观察使，继续管理徐州、濠州和
宿州市。同年十一月，建立了
安国军，统辖徐州、宿州和泗州。875年，泗州被撤出感化军。894年六月，武宁军节度使名称得到恢复。