1921年，谌小岑任华俄通信社翻译、上海分社中文部主任。19 23年，他在
天津市协助邓颖超创办女星社、女星成年妇女补习学校。随后，谌小岑先后任汉口扬子机械厂
化学技师、中国国民党中央党部工人部指导主任、国民党
上海市党部监察委员、国民政府铁道部劳工科科长、浙赣铁路理事会秘书等职。其间，他为沟通国共双方高层之间接触，进行联合抗日谈判而奔走联络。1936年，谌小岑任国民党
广东省党部书记长兼民众训练科科长。1942年后，他任立法院立法委员、交通部顾问、
浙赣铁路理事会主任秘书。
1948年，谌小岑加入了
浙江省人民政府委员陈惕庐组织的孙文主义革命同盟，积极主张“反蒋美、奉行三大政策”。该盟负责人陈惕庐得到
浙江省主席
陈仪的指示，在上海对
汤恩伯部下进行策反活动，被特务侦悉。1949年3月底该盟遭到破坏，作为该盟常务理事的谌小岑被
中国国民党当局开除党籍。
新中国成立后，谌小岑先后在国家出版总署编译局、文化部出版局从事翻译工作，1957年任国务院参事。
“文化大革命”爆发后，1967年6月，他被隔离审查，关进
秦城监狱；平反后，他回到国务院参事室，后被选为民革中央监察委员会常委。