1924年初,曹大骏加入中国共产党。同年回乡开展革命活动,他广泛联络各方志同道合的知识青年,创办了龙山文化促进社(简称龙山书社),宣传革命思想。1925年夏组织建立了
阳新县中共刘宣支部和该县第一个秘密农民协会。1926年春,根据中共的指示,他以个人身份加入
中国国民党,参加迎接北伐军的准备工作。
曹大骏先后担任中共阳新县委组织部部长,国民党阳新县党部执行委员兼军事部部长,阳新县总工会委员长。在曹大骏等人的领导下,阳新县的工农运动蓬勃发展,全县参加农会的会员达30万之众,居湖北全省之冠。
1927年11月,曹大骏被选为中共阳(新)大(冶)县委执行委员,1928年5月任中共阳新县委常委兼宣传部部长,积极开展恢复和建立党组织工作,领导农民武装反抗敌人的“清乡”斗争。1929年1月任中共湖北省委巡视员,帮助恢复和健全了
黄梅县、
武穴市两县党的组织。经过对黄、广、阳、大4县的巡视,他决定在大冶山区创办一个红军训练班和一个党务训练班,并亲自为这两个训练班讲课,培养了一批军政干部。后任中共中央巡视员,于同年10月前往鄂豫皖苏区工作。
1930年4月,曹大骏任中共鄂豫皖特委执行委员,中共红军第1军
前敌委员会书记兼政治委员,与军长许继慎率部转战鄂豫皖边区,参与指挥
麻埠镇、
英山县、
罗田县和四姑墩等战斗,粉碎了
国民革命军对鄂豫皖苏区的第一次“围剿”。后任
中国工农红军第四军政治部主任。
曹大骏兄弟5人,他的两个弟弟曹井、曹乡先后为革命献身,他的妻子吕相珠,也因从事革命活动,在怀孕期间惨遭
中国国民党反动派杀害。面对敌人的屠刀,他英勇不屈,意志坚定;面对党内的不公正待遇,也丝毫没有改变他对党和革命事业的耿耿忠心。