1924年10月,叶挺进入莫斯科东方大学学习。1924年底,叶挺在莫斯科加入中国共产党。1925年9月,叶挺回国到广州,任国民革命军第四军参谋处长。1926年5月,叶挺率第四军独立团出师北伐,取得湖北汀泗桥、贺胜桥等战役胜利,获得“北伐名将”的美誉。
1927年7月中旬,蒋介石和汪精卫合流分共,国共合作的大革命宣告失败。7月20日,李立三、邓中夏、谭平山、吴玉章、叶挺、聂荣臻等在九江召开会议,分析形势,研究对策。叶挺认为,蒋介石和汪精卫相继举起屠刀残杀共产党人和革命群众,除了诉诸武力反抗,别无选择。7月下旬,中共中央决定发动南昌起义,并决定组成以周恩来为书记的中共前敌委员会。
7月25日,叶挺率部从九江乘火车开赴南昌。7月27日,周恩来从武汉经九江抵达南昌,正式成立中共前敌委员会,决定由叶挺出任前敌代总指挥。周恩来住在南昌女子职业学校,这里离第二十四师驻地不远,方便与叶挺研究起义事宜。当周恩来与叶挺交谈时,叶挺明白自己在党的军事工作中的地位,并明确地表示:“坚决执行党的决定,竭尽全力,完成使命!”
7月30日下午,叶挺主持召开第二十四师营以上干部会,传达中共前敌委员会决定,进行战斗动员。他慷慨激昂地说:“大家知道,汪精卫‘分共’最后断送了北伐;反革命的大屠杀使革命势力无法生存。现在中央决定在南昌树起革命旗帜,命令我们解决驻南昌的朱培德部队。同我们一起行动的还有二十军的两个师,我们力量很强,完全能成功。行动之前,要做好侦察工作;接到命令后,要迅速行动,用最短的时间,解决敌人。”当晚,他还与周恩来一起巡视部队,检查起义准备情况,进行战前鼓动。
南昌起义的枪声于8月1日凌晨2时打响。叶挺指挥这次战斗,如往常一样,要求很严。他一再督促部队运用猛打、猛冲、猛追的传统战法,打掉敌人的锐气,各分队按此行事,各战场都是速战速决。官兵们边打边喊:“我们铁军二十四师,叶挺在这里指挥。”这种攻心战也屡见效应,常使敌人闻风丧胆。
8月3日至5日,起义军相继离开南昌南下广东。叶挺率领第二十四师作为前卫部队先行启程,经临川、广昌,于当月下旬到达瑞金,8月30日攻占会昌。会昌之战表现了叶挺卓越的军事指挥才能。刘伯承赞曰:“没有见过一个军人在兵临城下万分危急时刻,能像叶挺那样沉着。”作为南昌起义的主要领导,叶挺参与起义的策划、组织和指挥,为我党创建人民军队建立了不朽功勋。