北伐是孙中山的一贯主张，蒋介石从1926年初就开始极力推动北伐计划。但莫斯科明确指示要阻止北伐，为此召支持北伐的鲍罗廷、加仑回国，由季山嘉接任。季山嘉反对北伐，并削减黄埔军校的经费、改编军队，引起蒋介石的猜疑，汪精卫倾向季山嘉的态度又增加了蒋的疑惧。3月18日晚，商轮定安号遭匪抢劫向黄埔军校求救，军校值班人员电请驻省办事处派船，驻省办事处主任向海军局求助，海军局当夜即令中山舰出动。次日清晨，中山舰驶往黄埔不久，一俄国考察团提出上午要参观中山舰，海军局局长、共产党员李之龙请示蒋介石，问可否调回中山舰。此时，汪精卫又几度询问蒋何时回黄埔，而蒋赴俄的护照又刚好得到批准，于是蒋猜疑：中山舰开黄埔意在把他架往苏联，是倒蒋的阴谋。20日上午，蒋下令逮捕李之龙，占领中山舰，广州部分地区戒严，一度收缴苏联顾问卫队的武器；下午蒋意识到并不存在特别危险，就取消了戒严，交还武器并放人。周恩来当天也并未被软禁，第一军中的共产党员没有受到冲击。事件当天，蒋介石十分紧张，以致见到何香凝时“竟像小孩子般伏在写字台上哭了”。事后，蒋不得不向苏联顾问百般道歉，但是，苏方不仅没有追究，而且痛快地答应了调走季山嘉的要求。如果说，事件对蒋的心理产生什么重要影响，那么可以肯定，蒋对用强力解决内部纠纷，实现政治目的留下了深刻印象。5月5日，国民党二届二中全会召开，包括毛泽东、恽代英、林伯渠在内的共产党员，对整理党务案都采取了相当合作的态度。蒋介石提出整理党务案，目的是限制共产党发展，确保自己和国民党的政治生命和前途，还不是要马上与共产党分手。在他为退出第一军的党代表举行的宴会上，仍试图消除两党党员的冲突，北伐开始后，他重新启用一批共产党员参加第一军工作，如蒋先云等。