汉宣帝元康时任酒泉太守。
神爵元年
西羌贵族反叛，他被就地任为破羌将军。取胜后复为酒泉太守。后七年，复为破羌将军，征乌孙至
敦煌市。
神爵元年，汉宣帝调发
三辅、
太常地区的犯人免去监禁，编为部队，三河、
颍川、
沛郡、淮阳、
汝南郡地方部队军官，
兰州市、
陇西县、
天水市、安定、
北地郡、
上郡等地骑兵，与
武威市、
张掖市、酒泉太守驻守各自郡县，共计六万人，命令
后将军赵充国率领进剿诸
羌族部落。赵充国抵达西部都尉府（治所在今
甘肃省玉门市西）后，力主招抚先零等诸羌人。时任
酒泉市太守的辛武贤上奏说：“各郡部队都驻守南山，北边空虚，这种形势不能长久。有人说到秋冬季节再进军，这是敌人在境外的策略。现在敌人不时侵犯，那里寒冷艰苦，
汉军的马匹无法过冬，驻守在武威、张掖、酒泉的部队超过一万人马，大多瘦弱。可以增加马的口粮，在七月上旬带三十天的粮食，从
张掖市、酒泉分兵同出，一同攻击在鲜水上的罕羌、秆羌等诸羌。敌人视牲畜如命，现在都被冲散，军队如果分几路出发，即使不能把敌人全部消灭，但是可以夺取敌人的牲畜，俘虏他们的妻子儿女，然后退兵返回，冬季再进攻他们，大军频频出动，敌人一定震动瓦解。”
汉宣帝把辛武贤的这封上书交给
赵充国，让他与了解
羌族情况的
校尉及士兵广泛讨论。赵充国与
长史董通年认为：“辛武贤想带领一万
轻骑兵，从张掖分两路出发，道路迂回达千里之远。让一匹马驮着骑士与马三十天的口粮，即二四斗米，八斛麦子，又有衣服装备武器，很难追击敌人。部队劳苦来到，敌人一定能预计到部队的行动，稍微退去，追随水草，逃入山林。如果追随敌人深入山林，他们就占据前方的险要，切断后方的咽喉，断绝粮道，我军一定会陷入危险境地，被野蛮人耻笑，一千年也不能返回中原。辛武贤认为可以夺取敌人的畜产，俘虏他们的妻子儿女，这只怕是空话，不是最好的计策。另外
武威市、
张掖郡的日勒县都正对着北边要塞，有贯通的山谷和水草。我担心匈奴与
羌族有阴谋，将要大规模进犯，妄想占据
张掖市、
酒泉市，断绝西域通道，因此，张掖、酒泉的
地方部队尤其不可调动。先零是首先开始叛逆的，其他部族是被挟持的。所以我们的不高明的计策是：捐弃罕、秆诸羌愚昧糊涂的过错，隐忍不张扬，先对先零进行诛伐，来震动罕、秆诸羌，他们必然会悔过，重归善良，从而赦免他们的罪行，选择懂得他们习俗的好官员调理安抚，这是保全军队稳操胜券安定边防的策略。”
汉宣帝把这道上书交给百官讨论，参加讨论的公卿都认为先零兵力强盛，又恃仗罕、秆诸羌的援助，不先打败罕、秆诸羌，就不可能图谋先零。同年六月，汉宣帝任命侍中、乐成侯
许延寿为强驽将军，派使者到
酒泉市任命辛武贤为破羌将军，赐给加盖印玺的书信表扬他，并采纳他的计策。让辛武贤与许延寿、
赵充国率军合讨罕羌、秆羌，并命赵充国从速进兵。
神爵二年（前60年），设置金城屈国。赵充国振师凯旋后，辛武贤的儿子辛临众担任护羌校尉。甘露元年（前53年），乌就屠杀害乌孙（今
独立国家联合体中亚伊什按城）昆弥（乌孙王号）狂王
泥靡，自立为乌孙昆弥。
赵充国又一次上书，再陈利害，仍主张先平先零，再降服罕羌。不久，引军到先零的赵充国不幸染病，
汉宣帝命辛武贤为副，约期冬季进剿先零。由于先零羌陆续降服一万多人，赵充国仍主张招抚并上屯田奏议，陈述罢兵屯田的十二条好处，得到汉宣布同意。可是辛武贤、
许广汉依旧主张进击，汉宣帝不忍否定其奏议，决定抚剿两策并用，命许厂汉、辛武贤和
中郎将赵印会师进剿。结果，他们分兵南出，越过
祁连山脉，在理水合击罕羌，辛武贤和赵印各斩杀、收降
羌族二千多名，许广汉降获四千多人，唯独
赵充国没有进兵，反而收降五千多人。
神爵二年，设置金城屈国。赵充国振师凯旋后，辛武贤的儿子辛临众担任护羌校尉。甘露元年，乌就屠杀害乌孙（今
独立国家联合体中亚伊什按城）昆弥（乌孙王号）狂王
泥靡，自立为乌孙昆弥。辛武贤再次受任破羌将军，率领一万五千名士兵到
敦煌市，派使者按照行军计划，穿越到卑侯井以西，打算打通沟渠，传送粮食，积累成临时性粮仓，以便攻打
乌就屠。辛武贤到敦煌后便患病，于是奉沼返回，末到
长安病逝于途中。辛武贤对
羌族的军事进剿，起到巩固汉朝统治的作用。