1927年大革命失败，在白色恐怖笼罩的严峻时刻，刘平楷被任命为中共南京地委书记。他置生死于度外，与敌人进行了坚决的斗争，后调任上海沪东区委书记、闸北区委书记。
1928年5月，中共中央决定由刘平楷担任中共湖北临时省委书记，以恢复遭敌破坏的湖北党组织。1928年底，刘平楷受中央委派，以特派员的身份与谢觉哉前往东北。中共满洲临时省委建立后，刘平楷担任省委书记兼军委书记。1929年秋，刘平楷根据工作需要回到云南，于1930年春担任中共云南省委常委、组织部部长。
1930年5月5日，在敌人的大搜捕中，刘平楷为了保护省委的机密文件并安排有关同志转移，不幸被捕。面对敌人“你要顽固到底，就难免一死，谁也保不了你！”的威胁，刘平楷斩钉截铁地说：“大丈夫不怕死，为何以死惧之！成全我一个烈士的美名，不也好吗！”7月26日，刘平楷英勇就义，年仅28岁。
