1928年1月，得知朱德、陈毅率领南昌起义的队伍转战到粤北，立即赴乳源杨家寨子与朱、陈会面，共同商议了暴动计划。随即受朱德派遣，以国民革命军第16军47师140团副团长名义，率两个连开进宜章县城，取得了智取宜章的胜利。在此期间，他加入中国共产党。同年5月随朱德、陈毅到井冈山后，任中国工农红军第4军第29团团长、中共湘赣边界特委委员，参加了开辟井冈山革命根据地的斗争。1929年随红四军出击赣南、闽西，任第2纵队纵队长（也称司令员）、4纵队纵队长。同年12月参加了古田会议。

　　1930年6月，胡少海在闽西任红21军军长，率部在龙岩东北地区肃清反动武装和土匪，巩固了苏维埃政权。8月在漳平永福圩侦察敌情时不幸壮烈牺牲，时年32岁。