光绪十八年（1892年），赵启霖成进士，授翰林院编修。1906年，赵启霖担任河南道监察御史。其在任职期间多次上疏，吁请改革官制、禁绝鸦片、改革教育、赈济灾黎，又请将王夫之、顾炎武、黄宗羲从祀文庙。1907年，上《劾段芝贵及奕、载振疏》，揭发段以10万金向奕劻祝寿，用以贿买
黑龙江巡抚事，反遭诬革职。此事引起朝野愤愤不平，御史们抗疏辞职。清朝廷迫于舆论，收回成命，赵启霖得以复职。1909年任
四川省提学使。次年赵启霖辞职回乡，任湖南船山学社社长，著有《瀞园集》六卷。1935年，赵启霖逝世。
赵启霖幼时家境贫寒，得族戚资助，16岁时入县学，光绪十一年（1885年）中举人，十八年（1892年）成进士，授翰林院编修。1906年，担任河南道监察御史。九月，掌江苏道监察御史；十一月，兼署山西道监察御史。颇具维新思想的赵启霖，任职期间多次上疏，吁请改革官制、禁绝鸦片、改革教育、赈济灾黎。又请将王夫之、顾炎武、黄宗羲从祀文庙，为时人称道。
1907年，赵启霖上《劾段芝贵及奕劻、载振疏》，揭发直隶道员段芝贵以1.2万金购歌伎杨翠喜献于农工商部尚书载振为妾，又以10万金为庆亲王奕劻祝寿，因而换得黑龙江巡抚一职。然而，赵启霖却因弹劾三人之事反遭诬陷革职。此事引起朝野愤愤不平，御史们抗疏辞职。清朝廷迫于舆论，收回成命，赵启霖得以复职。
1909年，赵启霖出任四川提学使，在蜀整顿学风，革除陋规，被同僚赠“铁面耆臣”匾额，据说这块扁至今保存在当地一农户家。次年赵启霖辞职回乡，任湖南船山学社社长，著有《瀞园集》六卷。1935年，赵启霖逝世。
光绪三十二年(1906)直隶候补道员段芝贵以1.2万金购歌妓杨翠喜献于农工商部尚书载振(奕助之子)为妾，又以10万金为庆亲王奕助祝寿。段芝贵在第二年的“东北改制”中竟越级任命为黑龙江巡抚。此事一发生，朝野上下，人言籍籍，顿时舆论大哗，报纸讥评，连东京报纸都详记其事。但大多畏惧权势，不敢撄捋虎须。赵启霖从国家大势出发，认为黑龙江位处边陲，为东三省重中之重，值此日俄交涉多事之秋，应当选取能臣。然而，朝廷却安排一个声望、才能、品德、资历、级别均很可疑的段芝贵担此重任。出于言官职责，赵启霖挺身而出，以其愚诚，慷慨陈词，指出他们“置时艰于不问，置大计于不顾，尤谓无心肝，不思东三省为何等重要之地，他族逼处为何等危迫之时，改设巡抚为何等关系之事。此时交通贿赂，欺朝廷，明目张胆，无复顾忌，真孔子所谓是可忍，孰不可忍者矣”。此疏一上，朝廷震动，不得不撤去段芝贵布政使衔，并且不允署理黑龙江巡抚，同时开去载振的一切差缺。
清廷为缓和舆论，派醇亲王载沣、大学士孙家前往天津访查。他们不明察事实真相，根据一面之词，指控赵启霖“于亲贵重臣名节所关，不详加访察，仅以毫无根据之词，率行入奏，任意污蔑”。于是赵启霖被“即行革职，以示惩儆”。赵启霖落职，当时舆论大哗，上海《申报》以“不畏强梁”为题抨击此事，并附《翰林打虎》漫画。而且还有以此事为素材，写小说、戏剧及仿《长恨歌》作诗的。赵启霖由此直声远震，与江春霖、赵炳麟被时人称为“乌台(即御史台)三霖”。
赵启霖去职消息传出，当时就有湖南提学使吴庆坻发电报到北京，要他回湘，监督高等学堂，并且认为赵启霖的学行“在湘中士大夫当首屈一指，余所最心折者”。赵启霖启程返湘，京师士大夫更是纷纷馈赠为别，“乃至数十人集会饯行，摄影为别”。路过汉口时，张之洞对于赵启霖也是“款留盘桓”。此时,“乌台三霖”另外两人江春霖、赵炳麟及陆宝忠等为赵启霖交章保荐。赵启霖四月落职，六月复官。