榆山县的历史始于隋朝时期。杨坚开皇十六年（596年），在此地设立榆山县。然而，在隋炀帝大业二年（606年），榆山县更名为平阴县，并隶属于当时的济北郡。现今的山东省平阴县就是由原来的榆山县演变而来。

榆山县的建立可以追溯至隋朝初期。隋文帝杨坚于开皇十六年（596年）在此地区设立了榆山县。然而，随着历史的发展，到了隋炀帝统治期间的大业二年（606年），榆山县被更名为了平阴县。这一变更反映了当时行政区划的变化，平阴县随后成为济北郡的一部分。如今，我们所知的山东省平阴县正是源于历史上曾经存在的榆山县。