1924年5月，彭干臣与许继慎等人被安徽党组织选派考入黄埔军校第一期。10月赴苏联入莫斯科东方大学军事班学习，与朱德等同班。1926年秋，彭干臣奉命提前结业回国，加入叶挺独立团参加北伐战争。1927年3月，彭干臣按中央指示，带领一批军事骨干秘密潜回上海，参加第三次工人武装起义，协助周恩来指挥工人作战。

　　1932年春，彭干臣奉中央指示到闽浙赣苏区，先后任红十军参谋处长、新十军参谋长，参与指挥闽浙赣革命根据地的反“围剿”作战，协助方志敏率部取得了一系列胜利，巩固和扩大了苏区。1933年任彭（湃）杨（殷）陆军学校教育长、校长。1934年11月，他参加方志敏领导的红军北上抗日先遣队，转战于浙赣、皖赣边，发展游击战争，建立根据地。1935年1月中旬，彭干臣在上饶、德兴间怀玉山地区战斗中英勇牺牲，年仅35岁。