孙中山逝世后，国民党失去了核心人物，领导层中的斗争越来越激烈，党明显分化为左、中、右3派。左派虽然有正确的政治主张，但没有形成坚强的领导核心，在对右派的斗争中虽然也有时取胜，但常常处于劣势地位。鲍罗廷、陈独秀认为国民党应该由纯粹的国民党左派来领导，共产党人在国民党内只是客人，因而放弃了对国民党的领导责任。

　　1926年3月17日，孙文主义学会到处散布谣言，说“共产党要暴动，推翻国民政府，组织工农政府”，并无中生有地说：汪精卫与共产党人图谋倒蒋，私调“中山”号军舰，要把蒋介石绑架到莫斯科。3月18日，欧阳格借黄埔军校校长蒋介石的名义，命令海军代理局长李之龙，“迅速派得力兵舰两艘，开赴黄埔，听候差遣”。蒋介石正好寻找机会，便不失时机地于3月20日凌晨，背着国民党中央，以“共产党阴谋暴动”为借口，发动突然袭击。他擅自宣布广州全城戒严，调动军队占领了中山舰和海军局，逮捕了海军局代理局长、共产党员李之龙，扣押了黄埔军校和第一军中的共产党员50多人，并包围了苏联顾问团住所和省港罢工委员会，收缴了两处卫队的枪械，连汪精卫的住宅也予以“保护”起来。

　　对这突然到来的事变，中共中央既缺乏精神准备，也没有应付的经验。事发当天，中共广东区委负责人陈延年、周恩来等提议采取强硬态度，争取除一军以外的军事力量，通电讨蒋，公布事实真相，指责蒋介石违反党纪国法，必须严办，削其兵权，开除党籍，同时鼓动工人罢工以打击蒋介石的气焰。陈独秀虽然在事变后著文驳斥了国民党右派的反共言论，但对蒋介石却采取了宽容态度。他认为帝国主义和军阀的实力还非常强大，中国革命的势力必须统一起来，“蒋介石是中国民族革命运动中的一个柱石，共产党若不是帝国主义者的工具，决不会采取这种破坏中国革命势力统一的政策。”受这种观点的影响，中共中央决定维持汪蒋合作的局面，继续对蒋采取友好合作的态度，结果，更加鼓励了蒋介石放胆地进一步采取限共活动。蒋介石提出的黄埔军校第一军排除共产党的提案，终获通过。蒋介石全面掌握了第一军。

　　从党、政、军几方面来说，汪精卫都是蒋介石的上司，但蒋介石在汪精卫毫无知晓的情况下悍然发动“事变”，显然没把汪精卫放在眼里。汪精卫对蒋的权力过分膨胀大为不满，便以军委主席的身份问朱培德、李济深等几个军长，敢不敢去扣押蒋介石。这些人谁都不敢率先出面反蒋，都不作声。汪精卫孤掌难鸣又无可奈何，自觉威信扫地，孤立无援，一气之下称病不出。5月中旬，汪精卫满怀悲愤地离开广州，随后取道香港前往法国。　　

　　4月16日，蒋介石取代汪精卫，坐上了军事委员会主席的宝座。至此，蒋介石利用中山舰事件打击左派、排除异己、夺取军权的目的完全得逞。通过中山舰事件，蒋介石得到了意想不到的收获，既削弱了苏俄顾问的控制，又打击了共产党，限制了共产党势力的发展，更为重要的是，挤走了最大的政敌汪精卫，为登上权力的颠峰扫清了障碍，可谓一石数鸟。