梁平老聪明机敏，做事严正认真。
前秦宗室
苻坚当时以其有王佐之才，于是倾心向其结交。寿光元年（355年）
苻生继位为帝，以梁平老为特进、领御史中丞。不过苻生酗酒严重而怠政，又常常生杀大臣，梁平老于是建议当时颇有众望的苻坚趁早取而代之，并得苻坚认同。寿光三年（357年），苻坚与其兄
苻法发动
政变废杀苻生，自称天王，以梁平老为尚书右仆射。
甘露元年（359年），苻坚以梁平老为使持节、
都督北蕃诸军事、镇北大将军，戍
朔方郡以西，守护北土以防御匈奴、
鲜卑族的侵扰。不久再加开府仪同三司、封朔方侯。至建元八年（372年）梁平老在任内去世时已驻镇了北方十三年，当地鲜卑及匈奴人即敬惮亦爱戴他，安镇北方。
苻坚谥其为
蔡桓侯。