1985年3月,于杰进入八一队并开始练习举重。1989年,他在伊拉克举行的国际杯中夺得冠军。1992年,于杰因病退役。退役后,于杰留在八一队担任举重教练。2007年,他进入
中国国家举重队担任教练。2008年,于杰带领弟子
廖辉在北京奥运会中夺得
金牌。2012年,他带领
吕小军夺得伦敦奥运会金牌。在里约奥运会周期内,于杰先后担任中国举重男队副总教练和总教练。在2016年里约奥运会中,他带领中国男队共收获两金两银。2021年,在东京奥运会举重比赛中,于杰带领中国男队的4名队员全部夺得金牌。
退役后,于杰留在八一队担任举重教练。2007年,他进入中国举重队担任教练。2008年,于杰带领弟子廖辉在北京奥运会中夺得金牌。2009年2月,于杰成为吕小军的教练。2012年,他带领吕小军夺得伦敦奥运会金牌。2014年下半年,于杰担任龙清泉和谌利军的教练。
在里约奥运会周期内,于杰先后担任中国举重男队副总教练和总教练。在2016年里约奥运会中,他带领中国男队共收获两金两银。2017年4月5日,
中国国家举重队在
国家体育总局训练局举行了男队、女队总教练的竞聘会议,于杰继续竞聘男队总教练一职。
2021年7月14日,于杰担任东京奥运会中国体育代表团举重项目教练。在随后的东京奥运会举重比赛中,他带领中国男队的4名队员全部夺得
金牌。
默默地付出,静静地坚守。多年的努力,让于杰培养出了两位奥运冠军,几乎每年世锦赛都带领弟子破
世界纪录。——《解放军报》评