中国人民解放军训练总监部成立于1955年4月。1954年11月，中华人民共和国全国人民代表大会常务委员会第二次会议决定成立解放军训练总监部，统管全军的军事训练和院校工作，1955年4月正式成立。此时，解放军总部体制进行重大改革，原有的三总部改建为八总部。训练总监部在八大总部序列之中排第二，仅次于总参谋部，高于总政治部。
训练总监部简称“训总”，负责全军的军事训练和院校教育，下辖计划和监察部、陆军战斗训练部、军事学院和学校部、军事科学和条令部、军外训练部、军事出版部等机构。刘伯承元帅任训练总监部部长，由于刘伯承还要在南京主持军事学院的工作，叶剑英元帅被任命为代理部长。六位副部长李达、萧克、张宗逊、
彭绍辉、周士第、郭天民全部是开国上将。
1955年4月，以解放军总参谋部军训和军校管理部、军事出版局为基础，成立解放军训练总监部，与解放军的总参谋部、武装力量监察部、总政治部、总干部部、总后勤部、总财务部、总军械部一起，形成八总部的领导体制。在编制序列上，训练总监部仅次于总参谋部，地位极其重要。中央军委任命刘伯承为训练总监部部长，由于他在南京军事学院任院长兼政委，而且身体不好，便由叶剑英代理训练总监部部长职务，副部长有萧克、李达、周士第、
彭绍辉、郭天民、张宗逊。训练总监部下设6个二级部，部长都是由副部长兼任：李达任计划和监察部部长、萧克任陆军战斗训练部部长、张宗逊任军事学院和学校部部长、彭绍辉任军事科学和条令部部长、周士第任军外训练部部长、郭天民任军事出版部部长。此外，还有体育训练局、战斗训练物质保障局等部门。
1955年9月，人民军队第一次评授军衔，训练总监部一时间拥有两位开国元帅（部长刘伯承、代部长叶剑英）、六位开国上将（副部长萧克、李达、周士第、
彭绍辉、郭天民、张宗逊）。
1955年11月，由叶剑英元帅亲自担任总导演，训练总监部在
辽东半岛组织了一次空前规模的抗登陆演习，参加这次演习的有陆、海、空三军指战员4.8万人。这是人民解放军第一次组织的在使用原子、化学武器条件下抗登陆防御演习。
1958年12月11日，在中央军委扩大会议之后，决定撤销训练总监部，其所属各部、局合编为军事训练、院校管理、军事出版三个部，分别由李作鹏、郭天民、孙毅任部长，划归总参谋部建制，分工由张宗逊主管。
训练总监部的成立，极大推动了解放军全军的训练。由于叶剑英是中央军委副主席，其他副部长也都是上将，在协调各军区和各军兵种、组织合同演习、提高训练质量发挥了重要推动作用。但在1958年军队内部“反
教条主义”的错误运动中，“训总”被撤销。