张茂直的父亲张延升，以传授经典学术著称于乡里。张茂直年轻时，正值
慕容彦超占据州城，他被驱赶去守卫城墙。后来，当
北周军队攻破敌人时，张茂直作为守城者之一，被俘虏并面临斩首的命运。一名士兵曾建议他先行剪掉头发，以免玷污了它，但在执行前得到了释放。此后，张茂直立志于学问研究。
开宝年间，张茂直因其品行受到地方将领的推荐，并获得资助前往京城。他在开宝二年考取
进士，随后担任海州
推官，晋升为
司农寺丞、通判
泰州市。由于遭到
转运使韦务升的诬告，他曾被贬谪至梓州富国监。回朝后，他为自己辩护并得以洗清冤屈，再次担任通判静安军。在此期间，他上书请求将下博划归静安军管辖，这一提议得到批准。之后，他的职务提升为著作佐郎。在
扈蒙的举荐下，他转任秘书丞。
张茂直曾在
福州市处理土地纠纷案件，但在即将出发调查时被留下。参知政事
李沆称赞他正直诚实，因此他被任命为益王
赵元杰的
记室参军。赵元杰对文学有着浓厚的兴趣，经常创作诗歌，他对张茂直非常友善，即使分享皇帝赏赐的水果，也会分给他一份。有一次，赵元杰派遣使者征集诗歌，张茂直应声挥毫，获得了高度赞赏。
端拱元年，张茂直被召回朝廷，获赐金紫。不久后，他被任命为
度支员外郎，经过多次升迁，成为本部门的郎中。
赵恒在还是亲王的时候，张茂直就已经在他身边服务，每次参加宴会都会通过诗词交流加深印象。宋真宗即位后，为了重用老臣，提拔了包括张茂直在内的多位官员，让他们先后担任知制诰一职。张茂直进入西阁任职后，恰逢
赵元杰生日，他奉命携带礼物前往祝贺，这被视为一种荣誉。
张茂直性格淳朴，言语不多，晚年常患病，导致思维迟钝，难以胜任工作。于是，他被调任为秘书少监，外放
颍州区知州。
咸平四年，张茂直去世，享年七十五岁。他的儿子张成列，在
端拱二年考中进士；另一子张成务，则担任
比部员外郎。