1985年考入
中央音乐学院作曲系，师从
杜鸣心教授。1987年考入该院指挥系，师从
李华德教授。1989年、1990年分别毕业于该院作曲系、指挥系，获两个专业的双学位证书。毕业后分配到
中央歌剧院。
他进入
歌剧院后，曾在多部中外歌剧中担任指挥和副指挥，其中《
马可·波罗》为首演，此剧获得了国家颁发的最高艺术奖——文华大奖。
近年来，他在一些由国家和文化部举办的大型音乐会上担任了指挥和作曲，其中大型晚会《光明赞》、纪念《
义勇军进行曲》创作60周年的大型《国歌音乐会》等，经
中国中央电视台现场直播，在国内外引起很大反响。在1997年7月1日由中国政府举办的
香港回归庆典仪式晚会上，他指挥了由中国优秀的乐队所组成。
2022年3月19日，作为指挥家参演北京民族乐团在北京音乐厅上演的《中坚力量》首席音乐会。7月31日，由许知俊担任指挥的民族歌剧《唱响南泥湾》在
保利剧院首演。
许知俊的指挥风格大气而亲和，极富歌唱性和感染力。受益于作曲专业的训练和学习，对作品内容、结构及作曲家意图方面有着更加清晰深入的把握。其指挥领域广泛，包括
歌剧、交响乐、民族管弦乐、合唱、交响戏曲等类型。曾多次在国家举办的大型庆典晚会与国家级比赛中担任指挥，引起广泛关注和好评。
作为当今乐坛活跃的著名指挥家，他与海内外许多乐团和剧院有着很好的合作，曾出访欧、亚、美、非等很多个国家及地区，并在一些著名的音乐殿堂执棒演出，如：
林肯中心、甘迪艺术中心、
芝加哥爱乐大厅、
巴黎香里舍大剧院、阿姆斯特丹皇家音乐厅、
克里姆林宫大剧院、圣彼德堡
马琳斯基剧院、雅典卫城古剧场等。
至今他已与
中国交响乐团、中国广播交响乐团、
上海交响乐团、
中央民族乐团以及山东交响乐团、
新疆爱乐乐团、南昌爱乐乐团等乐团合作演出，录制激光唱片。曾多次出访
日本、
新加坡、中国香港地区、中国澳门地区等国家和地区。1998年，他指挥由中、日、韩三国音乐家组成的“亚洲乐团”以及中央民族乐团赴日本、
韩国、中国香港地区、中国台湾地区演出音乐会。还指挥乐
中央歌剧芭蕾舞剧院赴中国台湾地区演出歌剧《马可·波罗》。
他曾为20多部电影、电视剧作曲，并创作有舞剧音乐、交响曲、
声乐、
室内乐及
民俗音乐重奏等作品。