1927年7月中旬，蒋介石和汪精卫合流“清共”，值此山雨欲来风满楼之际，被誉为川中名将的刘伯承从四川东下来到武汉，蒋汪纷纷派人收买，都被一一拒绝。就在此时，周恩来受命任中共前委书记，负责领导南昌起义。他急需一位既有秘密组织大规模兵暴经验、又有丰富作战指挥能力的得力助手，于是就选中了刘伯承。

    不久之后，刘伯承接到赶赴南昌协助周恩来发动起义的通知。刘伯承挺身而出，勇挑重担，准备动身。但是，他此时身为国民革命军暂编第十五军军长，如公然擅离职守，恐将引起国民党高层的关注，难以安全顺利地离开武汉。为掩人耳目，刘伯承想出一个妙计,在武汉《民国日报》上刊登一则消息：“暂编第十五军军长刘伯承、副军长黄慕颜，先后来汉向中央陈述与川中反动军阀奋斗情形，极为中央嘉奖。近刘军长因病，特向军事委员会请假调养，其职务交黄副军长代理，已蒙军委批准。”通过这一招，刘伯承避开了国民党众多耳目。在消息刊登当日，他搭乘江轮秘密离开武汉，并顺利到达九江、南昌，参与策划南昌起义。

    刘伯承根据周恩来的指示，到第二十军军部协助起义总指挥贺龙拟订作战计划。刘伯承详细分析南昌城敌我双方兵力对比情况，又仔细研究南昌城区敌军兵力部署图，在一番周密思考后，作战计划很快就拟订出来了。刘伯承将计划呈送周恩来，周恩来看后非常满意。尔后又将计划送前敌总指挥叶挺征求意见并获得赞同。起义作战计划确定后，周恩来立即召开军事会议，部署作战任务。

    8月1日凌晨2时，南昌起义枪声打响。各参战部队按预定部署向敌人发起进攻。战斗中，刘伯承和贺龙在一起，共同指挥战斗。他们冒着敌人的枪林弹雨来到前沿，仔细观察敌人火力情况，指挥部队调整进攻方向，采用正面压制、两侧迂回的战术，很快攻占了敌总指挥部。清晨6时，起义军完全控制了整个市区。上午9点，起义部队成立了革命委员会。刘伯承因在起义中的出色表现，赢得了周恩来及其他成员的充分肯定，被任命为军事参谋团参谋长。刘伯承因而也成为中国共产党建军史上第一位参谋长。