1927年,李硕勋受朱德委派,在上海从事党的地下工作。他辗转于浙江、江苏、安徽和上海等地,先后任中共浙江省委常委、省委军委书记、省委代理书记,上海沪西区委书记、江苏省委军委书记、江南省委军委书记等。
1931年春,李硕勋被任命为中共广东省军委书记。同年7月在去琼州(今海南岛)指导工作的途中不幸被捕。备受敌人折磨的李硕勋铁骨铮铮,表达了视死如归的英雄气概。在狱中,他给妻子写信,抒发了对妻儿的至深情感、无限期望。9月16日,李硕勋被敌人用竹筐抬到海口市东校场,英勇就义,牺牲时年仅28岁。