胡装是礼部尚书胡曾的孙子。当汴将
杨师厚驻守
魏州时，胡装因为与副使
李嗣业有交情，于是前往投靠他，并因此被推荐担任了贵乡县令一职。然而，在张彦叛乱期间，李嗣业不幸遇难，胡装也因此失去了职务，成为了一名流落在魏州的客人。
庄宗登基初期，胡装前去拜见并请求借调官职，但由于他在任职期间表现贪婪，所以未能得到及时的调动。直到十三年，庄宗返回
太原市时，胡装在离亭等候并成功觐见庄宗。他向庄宗表达了自己作为朝廷公卿后代的身份以及对国家的忠诚，希望获得重用。庄宗对此表示惊讶，并赐予他酒食以示安慰。随后，胡装被任命为馆驿巡官，不久后又晋升为
监察御史里行，并获得了绯鱼袋的赏赐。他还历任过
推官、检校
员外郎等职位。
胡装虽然没有正式的书法老师，但他自学成才。他的诗歌创作并非出自名家之手，但他却喜欢在各地的宫殿寺庙留下自己的作品。尽管有人对他这种行为提出批评，但他并不感到羞愧。当时，其他四位镇守官员都拥有金印紫绶，而胡装则以此为荣，不愿接受较低级别的银印青绶。在一次送别的宴会上，胡装为了表明自己对章服的渴望，留下了三首诗作。庄宗为此举起大钟，询问胡装能否喝完其中的酒，胡装毫不犹豫地一口饮尽，庄宗随即脱下自己的紫色袍子赠予他。
同光初年，胡装被任命为给事中，并随庄宗一同前往
洛阳市。由于连续几年的大洪水导致许多官员生活困难，胡装请求担任
襄阳市副使。然而，在同光四年，洛阳发生动乱，节度使
刘训出于个人恩怨，诬陷胡装意图谋反。这一指控引起了人们的广泛同情，认为这是对胡装的不公正待遇。