刘兆麒祖籍江苏沛县，明嘉靖间其
曾祖父刘信始迁居
丰台区。其父刘世则生二子，长子刘兆麟中顺治
辛丑科武进士，终生未仕；次子即刘兆麒。刘兆麒生于明末动荡年代，当时的
明朝内有
李自成、
张献忠等领导的农民军此起彼伏的斗争，外受满州女真族虎视眈的窥伺和侵扰，已处于风雨飘摇之中。
崇祯九年（1636年），
皇太极在
沈阳市改
国号为清，开始覆灭明朝的军事行动。他经常派兵打进长城，深入
河北省、
山东省等地大肆劫掠，同时也顺势在内地网
阿罗汉人中的人才，以备将来所用。刘兆麒“幼而端重，寡言笑，举止如成人；读书过目辄成诵，为文皆有理法”。1642年刘兆麒14岁时，于清兵在北京附近的一次侵扰中招揽，被带到关外。皇太极“见而异之，令入
官学读书”，并编入
汉军镶白旗。1644年随清兵入关。后学有所成，在
顺治六年（1649年）对汉军的一次考试中名列第一，被授予内秘书院
编修，成为皇帝的私人秘书和侍从。当时，
顺治帝经常亲临内秘书院，发现刘兆麒“年少敏达，心喜之”。此后十年中多次被提拔，先后任都察院启心郎、宗人府启心郎，后晋升都察院左副
都御史，成为顺治帝的亲信。
顺治十八年（1661年），
南明的
朱常瀛在
缅甸被俘，
云南省、
贵州省等地被清军平定，但
李来亨、
郝永忠等领导的农民军转入荆襄一带的群山中，继续坚持反清斗争。为镇压反清势力，巩固对
江南的统治，清廷选派心腹大臣前往镇抚。1661年，
康熙帝即位不久，年仅33岁的刘兆麒被委以湖广
巡抚的重任，开府
武昌区，“倚办军兴事宜”。到任后，他一方面“宣布威信”，积极督剿反清势力，一方面“与民更始”，免苛赋繁役，安抚流民，发展生产。当时，清廷调集
四川省、湖广、
陕西省三省的兵力，在西山一带围剿农民军，境内“禁旅云集”，官府征粮派夫以供军需，“丁夫困转输，往往颠涧谷”，搞得地方上“财殚力竭而功不克”。刘兆麒“悉心经划”，曲为调度，命各州府县“照粮均派，而宽其负任”，使“民无重累，士皆宿饱”，多数民夫能保命还乡，因而“闾里晏然”，一定程度上减轻了百姓的痛苦。1663年秋，
长江发生特大
洪灾，沿江一带“人畜漂没者无算”。刘兆麒一边“缮疏”朝廷，报告灾情，请求赈济；一边动用省力“百方赈恤”，使灾民免于饥饿和流离失所。他在湖广任职八年，使“伏莽悉定”，肃清了反清势力，也多少疗治了民间疾苦和战争创伤，史称“仁恩被于
江汉区”，被加授
工部侍郎衔。离任后，当地人立其生祠于武昌大观山南麓。作为一个历史人物，刘兆麒参与剿杀农民军的行动，自然难辞镇压人民之咎；但从另一个角度看，当时清统一全国已成大势所趋，尽快结束战乱，使百姓脱离战争，使国家归于安宁，毕竟是符合历史潮流的，何况刘兆麒役民尚不太苛刻，也为老百姓办了些好事，对他也就不必过于苛责了。
康熙帝七年（1668年），刘兆麒升任
四川总督，在任仅几个月，仍致力于平叛安民，遂以抚川功加
兵部尚书。
康熙八年（1669年）调任浙江福建
总督。当时台湾为郑氏父子占据，浙闽居于海防前线，他殚精竭虑筹划海防事宜，所上奏的条陈，皆“老谋硕划，凿凿然洞中肯綮”，人民“赖之以安”，两省“皆称严疆”。康熙九年（1670年）进阶
光禄大夫。此时，他以总督辖浙江福建等处地方
明朝军事，兼理
两江总督，挂兵部尚书兼都察院右副
都御史衔，官阶为
从一品，一时达于其仕宦生涯的颠峰。
康熙帝十二年（1673年），“三藩”（
吴三桂、
耿精忠、
尚可喜）乱起，
京师震动。刘兆麒回京述职，被任命为直隶援剿提督，作为特用的三大文臣之一前往平叛。一年后，“三辅清晏”，改任江南崇明
水师提督。他积屯粮草，整饬兵备，并严惩克扣军饷的不法官吏，使军威复振。当时，
清朝为孤立台湾而实行
海禁，使大批沿海居民失业，生活苦不堪言。他下令允许渔民用竹筏下海捕鱼，同时采取措施平抑市价，禁止商人用高利贷盘剥百姓，惩治饮博无赖之徒，使“
民俗音乐其业，商旅通途”。在
崇明区任职十年，号称“内地宁谧，人不知兵”，当地人树仁政碑以颂其德。
参加反击沙俄侵略的
雅克萨之战是刘兆麒一生中最具光彩的一页。明末清初，
俄罗斯帝国开始向
黑龙江省流域扩张，先后在中国边地强建雅克萨和
尼布楚两城，侵入
索伦镇、呼尔喀等部。为制止沙俄的侵略，
清朝决定以武力反击。
康熙二十三年（1684年），刘兆麒调任黑龙江水师总管，率水师奔赴前线。1685年，他与
都统栋鄂·朋春、
黑河市将军萨布素合水陆军一万五千人击败俄军于雅克萨，并捣毁了雅克萨城。撤军后，俄军又重新侵入，筑城固守。刘兆麒等又从黑龙江两岸及江面以水陆军围困该城，终于迫使
沙皇于康熙二十八年（1689年）与清政府签订了尼布楚条约。规定中俄两国以外
兴安岭和
额尔古纳河划界；毁雅克萨城，迁俄人出境。
雅克萨之战制止了沙皇的扩张野心，奠定了我国东北部边界。在这场
反侵略战争中，刘兆麒作为主要将领之一，率
北洋水师三次击败俄军，立下了赫赫战功。
康熙三十一年（1692年），刘兆麒驻守
黑龙江八年后，“边塞既靖”，遂以自己年逾六旬而又母老在堂为由，上疏请求退休，获准后还乡。
康熙帝三十七年（1698年），刘兆麒在家乡期间，奉命以退休大臣的身份监修
北运河，工竣，恢复
总督兵部尚书从一品衔名。他还捐资维修过丰台天尊阁。康熙四十七年（1708年）六月，刘兆麒在家乡逝世，终年80岁，葬于丰台刘氏家族祖。
刘兆麒去世后，在其履任地湖广省被崇祀为名宦，在其家乡
宝坻区（原
丰台区属宝坻所辖）被崇祀为乡贤。