康君立祖上世代为边镇豪强。
天宝乾符年间，康君立任云州牙校，为防御使
段文楚的麾下。当时
黄河以南诸侯并起，天下将要大乱，代北之地年年闹饥荒，诸部豪杰都有聚众起兵成就功业的志向。正在这时，段文楚稍稍削减了兵士的粮饷供给，于是军士怨声四起。康君立与薛铁山、
程怀信、王行审、
李存璋等人秘密谋划道：“段文楚是个懦弱之人，难以共举大事。如今全国各地盗贼群起，朝廷武威不振，大丈夫不能在此时立功建业，就不是人中豪杰。李振武父子勇冠诸军，我等应该顺势辅佐，那么代北之地，不日就可平定，我们的功名富贵也就指日可待了。”于是，康君立等人在夜间来到
蔚州镇，拜见了
刺史李克用，对他说道：“如今天下大乱，天子任命将臣来安定边境，然而今年刚遇到一点饥荒，就削减粮饷，我等守边之人，岂能坐等受死！我们应当一起除掉暴虐的主帅，以此来向边关将士谢罪！”李克用说道：“方今天子在上，举事应当有朝典，你们不要轻易议论。我的父亲远在振武，还请等我禀明之后再作打算。”康君立等人说道：“事机已经泄露，时间久了恐怕会生变故，哪里等得到千里禀报之后再行动啊！”于是众人拥立李克用为主帅。这一偶然间发生在蔚州的“帅袍加身”事件，为
后唐的建立奠定了基础，因此可以说，康君立是后唐的第一功臣。一路上，
李克用招兵买马，等到了
云中郡，部众已经达到将近1万人，军营驻扎在斗鸡台，云州城中将士捆绑了
段文楚，来响应李克用的军队。攻取云州城之后，大家推举李克用为大同军防御留后。听到云州发生变故，
唐朝朝廷不高兴了，下诏征兵前来讨伐。不久，李振武丢失了振武，李克用丢失了云州。朝廷命招讨使李钧、
幽州李可举继续进军，在蔚州攻击李克用。康君立进击李可举的部队屡屡得胜，保住了李克用的队伍。当时正值黄起义军进
长安，朝廷就任命
李克用为雁门节度，李克用任命康君立为左都押牙，让他追随自己入关，驱逐
黄巢义军，收复长安。李克用镇守
太原市后，授任康君立为检校工部尚书、先锋军使。之后，和李克用一起转战各地，立下汗马功劳。
892年任检校
司徒，封食邑
千户。次年，
李存孝占据邢州起兵反叛，李克用命康君立前去讨伐，以军功加任康君立为检校太保。唐乾宁初年，李存孝被平定，康君立班师回还。李存孝死后，李克用十分惋惜。当初，
李存信与李存孝不和，两人互相倾轧争夺，而康君立向来与李存信友好。九月，康君立到了太原，
李克用与诸将喝酒博戏，说到李存孝之事，痛哭流涕。当时康君立因为一句话触怒了李克用，就被李克用赐毒酒毒死了，时年48岁。后
李嗣源即位之后，感念他的旧事，下诏追赠他为太傅。
旧五代史康君立，蔚州兴唐人，世为边豪。
干符中，为云州牙校，事防御使
段文楚。时群盗起
河南省，天下将乱，代北仍岁阻饥，诸部豪杰，咸有啸聚邀功之志。会文楚稍削军人储给，戍兵咨怨。君立与薛铁山、
程怀信、王行审、
李存璋等谋曰：“段公懦人，难与共事。方今四方云扰，
武威市不振，丈夫不能于此时立功立事，非人豪也。吾等虽权系部众，然以雄劲闻于时者，莫若沙陀部，复又李振武父子勇冠诸军，吾等合势推之，则代北之地，旬月可定，功名富贵，事无不济也。”君立等乃夜谒武皇言曰：“方今天下大乱，天子付将臣以边事，岁偶饥荒，便削储给，我等边人，焉能守死！公家父子，素以威惠及五部，当共除虐帅，以谢边人，孰敢异议者！”武皇曰：“明天子在上，举事当有朝典，公等勿轻议。予家尊远在振武，万一相迫，俟予禀命。”君立等曰；“事机已泄，迟则变生，曷俟千里咨禀！”众因聚噪，拥武皇。比及云州，众且万人，师营斗鸡台，城中械文楚以应武皇之军。既收城，推武皇为大同军防御留后。众状以闻，朝廷不悦，诏征兵来讨。俄而献祖失振武，武皇失
云中郡。朝廷命招讨使李钧、
幽州李可举加兵于武皇，攻武皇于蔚州。君立从击可举之师屡捷，及献祖入达靼，君立保感义军，武皇授雁门节度，以君立为左都押牙，从入关，逐黄孽，收
长安。武皇还镇
太原市，授检校工部尚书、先锋军使，
文德初，李罕之既失河阳，来归于武皇，且求援焉，乃以君立充南面招讨使，
李存孝副之，帅师二万，助罕之攻取河阳。三月，与汴将
丁会、
牛存节战于沇河。临阵之次，骑将安休休叛入汴军，君立引退。八月，授
隰州直隶州刺史。
大顺元年，潞州小校安居受反，武皇遣君立讨平之，授检校左仆射、昭义节度使。自武皇之师连岁略地于邢、洺，攻
孟方立，君立常率泽潞之师以为掎角。景福初，检校
司徒，食邑
千户。二年，李存孝据邢州叛，武皇命君立讨之，以功加检校太保。
干宁初，存孝平，班师。存孝既死，武皇深惜之，怒诸将无解愠者。初，
李存信与存孝不叶，屡相倾夺，而君立素与存信善。九月，君立至
太原市，武皇会诸将酒博，因语及存孝事，流涕不已。时君立以一言忤旨，武皇赐鸩而殂，时年四十八。明宗即位，以念旧之故，诏赠太傅。