1921年7月，中共一大召开，选举产生了党的第一个中央领导机构——中央局。当时全国只有50多名党员，相关事务甚少，各地方组织也不健全，因此，一大决定暂不成立中央执行委员会，只设立中央局作为中央临时领导机构。大会选举陈独秀、张国焘、李达组成中央局。
　　1922年7月中共二大在上海召开时，党员增加到近200名，因此大会选举出中央执行委员会。把中央领导机构命名为“中央执行委员会”，这在很大程度上是效仿苏共。“一把手”陈独秀的称谓相应改为“委员长”。1923年6月中共三大在广州召开，在中央执行委员会的基础上进一步产生了中央局。1925年1月在上海召开的中共四大上又将“一把手”的称谓改为“总书记”。
　　1927年4月至5月在武汉召开的中共五大对中央领导机构进行了具有重大意义的一次调整。当时，全国党员已超过5万人，“中央执行委员会+中央局”已不足以有效统领全党，于是，五大把中央执行委员会改为中央委员会;中央局改为中央政治局;同时增加一个领导层级，即中央政治局常务委员会。这是在历史上第一次出现中央政治局、政治局常委会，由此形成中央四级领导体制——全国代表大会为中共最高领导机关;全国代表大会闭会期间，中央委员会为中共最高领导机关;中央委员会全体会议闭会期间，由中央政治局、中央政治局常委会行使中央委员会的职权;其中，政治局常委会是领导核心。在五大上，中央政治局常委会由陈独秀、张国焘、蔡和森组成。
　　1928年6月至7月中共六大在莫斯科召开。六大在中央领导机构方面最明显的变化是注重领导成员的工人成分，典型体现就是码头工人出身的向忠发被选举为中央政治局主席兼政治局常委会主席。这是在对中国国情缺乏清晰认识的情况下照搬苏共经验的结果。从六大开始，称党的最高领导人为“主席”。
　　1945年4月至6月，在六大召开17年后，中共七大在延安召开。此时的中共已今非夕比，党员发展到121万人，出席大会的代表共计755人。七大再次确认了中央四级领导体制，不再設政治局常委会，改设中央书记处，选举毛泽东、朱德、刘少奇、周恩来、任弼时为中央书记处书记，毛泽东为中央委员会主席、中央政治局主席、中央书记处主席。
　　1956年9月在北京召开的中共八大是中共成为执政党后的第一次全国代表大会。在此次大会上，中央领导机构作出了一系列重要调整：一是政治局和书记处分设，中央书记处在中央政治局及其常委会领导之下，处理中央日常工作，其第一负责人称谓由“主席”改为“总书记”，邓小平被选为中央书记处总书记。由此，中央决策机关——政治局和领导日常工作的机关——书记处分立。二是中央委员会在设立主席的同时，第一次设立副主席，且副主席有多名，并规定中央委员会主席和副主席也是中央政治局的主席和副主席。三是恢复政治局常委会，并规定它是党的核心领导，由主席、副主席、总书记组成。
　　1982年9月召开的中共十二大，为适应改革开放以来工作的需要，对中央领导机构进行了重大调整与变革：一是中共中央不再设主席、副主席，只设总书记，由总书记负责主持召集政治局会议和政治局常委会会议，并主持中央书记处的工作。以此为标志，中共中央总书记成为党中央最高领导职务。二是增设了中央顾问委员会作为新老干部交替的过渡性机构，其主任必须是中央政治局常委。三是规定中央军委主席须从中央政治局常委中产生;此前，中央军委主席一般由中央委员会主席或总书记兼任。四是规定中央纪律检查委员会第一书记须从中央政治局常委中产生。五是规定中央书记处仍旧负责党政军的日常工作，并处于中共中央政治局及其常务委员会的领导之下。
　　1987年10月至11月召开的十三大对中央领导机构作了进一步完善。一是中央委员会首次采用差额选举方式选举产生。二是调整中央书记处的职责与产生办法，规定中央书记处是中央政治局及其常委会的办事机构，其成员不再由中央委员会全体会议选举产生，改由中央政治局常委会提名，中央委员会全体会议通过。三是不再规定中央军委主席、中央顾问委员会主任及中央纪律检查委员会书记必须从中央政治局常委中产生。
　　1992年10月中共十四大召开时，在中央领导机构方面的变动主要是取消中央顾问委员会。至此，中央领导机构的总体框架进入较为稳定的时期。