1914年,在日本统治下地方政府的一次大规模重组时,乌山被称为现在的名字。当时它成为了苏源郡的一部分。这个名字又来自于当地的一条小溪,乌山川。然而,在日本占领之前,这个名字曾以汉字写成
鳌山,意思是“软壳龟山”。由于字的复杂性,以及该地区乌鸦的丰富,日本人将名字改为乌山,意思是“乌鸦山”。
2003年9月3日,乌鲁木齐和韩国乌山市正式签约结成友好城市。乌山市市长朴信远表示,乌山市因面积不大,以致于寸土寸金,让当地的
建筑商感到头疼,此次跟随考察团来疆的
建筑业专家对乌鲁木齐广阔的土地产生了浓厚的兴趣。当朴信远提出邀请雪克莱提·扎克尔明年带队去乌山市考察时,雪克莱提·扎克尔表示,他在韩国的汉城呆过一天,并对汉城留下了很深的印象,他明年一定会带领考察团去乌山市,并在那里多呆几天。17时许,雪克莱提·扎克尔和朴信远在
乌鲁木齐市与乌山市缔结友好城市关系意向书上分别签字,并就两个城市今后在文化、教育、贸易、卫生等方面的合作达成意向。乌山市是首府的第六个友好城市。