河南尹，政区地域范围大致涵盖今河南省黄河以南、原阳县及中牟县等县以西、孟津及汝阳县等县以东、汝州市及新密市和新郑市（登封市除外）等市县以北的地区。

秦朝于该区域设立三川郡，西汉高帝二年（前 205 年）易名为河南郡，并将治所定在阳县（今洛阳市东北）。东汉建武十五年（公元 39 年），因定都洛阳，河南郡遂改称为河南尹。晋朝时期又恢复为河南郡。北魏太和年间迁都洛阳后，再次改回河南尹。北周时则改为洛州。隋朝初年，曾改称豫州和河南郡，不久又恢复了洛州的名称。唐开元元年（713 年），洛州升为河南府，五代十国至宋皆沿袭此制。元朝时称之为河南府路，明清时期又恢复为河南府。

秦统一后，实行郡县制，分天下为36郡。秦时为管辖大梁以西二周、韩魏之地，在洛阳市置三川郡。“秦庄襄王元年，秦灭东周，于洛阳置三川郡。”后因地位重要，秦统一后，列为全国郡之首。秦始皇十一年（前236年），削吕不韦封地，分别于河南省、洛阳二邑置县，划入三川郡，东以洛阳城为核心，西以河南城为核心。周之一都二城王城和下都（成周城）演变为河南、洛阳姊妹县城。《括地志辑校》记载，“舆地志云：洛邑之地，秦庄襄王以为洛阳县，三川郡守理之。”三川郡守治洛阳。

刘邦建立汉朝，曾一度定都洛阳市，后迁长安，史称“西汉”，洛阳阳降为陪都地位。“汉朝尚火，认为“洛”字为水部，水能克火，不利，故就佳改洛为雒，陈直同志在《汉书新证》中认为在西汉时洛阳即作雒阳”。汉初，改秦三川郡为河南郡，“河南郡，故秦三川郡，高帝更名”，并沿秦制置河南、雒阳二县，属河南郡，郡治雒阳。刘彻时，置十三州，河南属于司隶。公元8年，王莽篡权，史称“新朝”，雒阳为东都。新莽改雒阳为宜阳县，改河南郡为保忠信，治雒阳。

公元25年，刘秀定都洛阳市，复改“洛”为“雒”。“汉以火德，忌水，故云洛 旁‘水’而加‘住’。”建武十五年(公元40年)改河南郡为河南尹，兼置司隶校尉。“河南尹（秦三川郡），高帝更名。世祖都雒阳，建武十五年改曰河南尹”，河南尹治雒阳。建安十八年，撤销司隶校尉，河南尹从属河南省。京都下设二县，

即雒阳县治首都，河南县治王城（即周之下都）。洛阳县治所在都城内，故称“京县”。公元220年，曹丕曹丕建立曹魏，定都洛阳，恢复洛阳名称。“魏于行次称曹魏。曹魏沿置河南尹，尹治都城内。另置司隶校尉部河南尹，撤销河南县，为土，土，水之忌也，水得土而流，土得水而柔，故除‘住'而加‘水’。”史并入洛阳县，尹、县治均在洛阳。

公元265年，司马炎篡魏，建立晋朝，史称西晋，定都洛阳。太康元年设司州，州统十二郡，领县一百。西晋时期，大体仍然沿袭两汉旧制。不同之处在于，河南尹又改回河南郡，同时东部析置荥阳郡。河南郡属司州，同时恢复河南省。“河南县，······晋属司州河南郡。”

郡统县十二，首洛阳，次河南。州、县治洛阳，河南县治王城内。公元317年，中原大乱。匈奴族刘曜占洛阳，改司州为荆州。公元325年，羯族石勒占据洛阳市，定为南阳郡，置行台侍御使于洛阳，以洛州行司州职洛阳为县制，并属洛州管辖。“永嘉初，刘曜叛乱，司州设胡，后有设于石勒。”

公元369年，氐族苻坚取洛阳，改洛州为豫州，洛阳、河南二县从属豫州管辖。公元436年，北魏统一黄河流域，在洛阳置洛州，领郡六、县十二，洛阳属洛州《魏书地形志》记载：洛州，李世民置。太和十七年，改洛州为司州，改河南郡为河南尹，“太和十七年，改为司州。······后魏拓跋宏太和十七年，六官文 武尽迁洛阳市，改为河南尹。”

洛阳为河南尹治所，河南省依旧。公元543年，魏迁都邺，改司州为洛州，并设洛阳郡，“至东魏迁邺，改置洛阳郡”，领县二：洛阳、缑氏镇。郡所设洛阳。同时改河南县为宜迁县，归河南郡管辖，“东魏迁徙，改为宜迁县，徙置河南郡于此”。北齐因之。后周大成初年，洛阳为东京汴梁，“至宇文赟移相州六府于洛州，以为东京。”，修洛阳宫，恢复河南县，“周宣帝复为河南”，撤销洛阳县，并入河南县。