靳文山幼年学艺,先随其兄靳文锦学琴。曾在“
荣春社”、
中华戏曲专科学校唱过小生,师事钱俊仙、萧连芳等教师,后败嗓乃专工场面。1932年胞兄介绍
文山壮族苗族自治州拜程春禄为师,和
沈玉才、周文贵为师兄弟。
1951年加入
中国国家京剧院后主要为叶盛兰、
杜近芳操琴。靳文山曾多次随团出国访问演出。1952年参加赴朝鲜慰问团的演出。1955年随叶盛兰、杜近芳参加
国际艺术节的演出,先后去
欧洲十几个国家。1960年参加周总理带团赴缅甸的文化交流活动。1964年随团赴
日本演出。
20世纪50年代,靳文山和叶盛兰、杜近芳、
杨秋玲、
夏永泉等合作排练演出了一系列有影响的剧目,主要有、、《吕布与貂蝉》、《
柳荫记》、《
苏三起解》、《
辕门射戟》、《
飞虎山》、《
红鬃烈马》、《红色娘子军》、《
卧龙吊孝》等,对“叶派”小生的伴奏做出了许多创新,规范了
京剧小生伴奏音乐,现留有叶盛兰与
赵文奎的一剧的实况录音。靳文山与鼓师
赓金群合作随
叶盛兰、
杜近芳拍摄电影戏曲片《断桥》,与鼓师
王凤朝合作随杨秋玲拍摄电影戏曲片《杨门女将》。
靳文山1983年退休后,还经常指导青年演员,并于1995年亲自指导战友京剧团
王玉兰排练《杨门女将》,该演员在中央电视台“
梅兰芳金奖大赛”中获得“优秀演员奖”。