中国共产党成立的时候，正是帝国主义侵略势力在中国横行暴敛的时候，正是北洋军阀和封建统治者视共产主义如“洪水猛兽”必欲扼杀的时候。帝国主义、北洋政府、各路军阀、警察、宪兵、特务一起出动对付新生的共产党。特别是在1924年至1927年这段时间内，虽然以推翻帝国主义在华势力和北洋军阀为目标的革命运动席卷了中国大地，取得了一系列的胜利，但随着国民党力量的不断强大，蒋介石、汪精卫等右翼势力的反共面目公开暴露出来，在他们的指使下，全国各地都发生了杀害共产党人和捣毁总工会、国民党左派控制党部等惨案，中国共产党的政治环境更加恶劣，革命形势异常艰难，只能被迫从事秘密的斗争。在《中国共产党第一个纲领》中规定：“在党处于秘密状态时，党的重要主张和党员身份应保守秘密”。为此，在中共中央局机关成立之初就开始了秘密活动。在大革命运动中形成的党内外重要文件材料数以万计，但保存下来的却如凤毛麟角寥寥无几!什么原因?答案很简单：损失了。1923年6月，陈独秀在中国共产党第三次全国代表大会《政治报告》中说：“两年来，由于中央委员会人员太少，不能搜集很多材料，又由于遭受迫害，许多材料遗失了”。开始，为了保守秘密，文件一旦发出，底稿立即烧毁；接到文件者，看一遍，怕被敌人发现，也立即销毁了。1921年11月后，虽然中共中央局要求各地上报文件，但主要通过邮局传递。相当一部分文件在邮局内被各路军阀的侦缉队检查出来，不但文件受损，党的秘密组织和秘密党员也遭受惨害。为了把党组织形成的文件保存下来，党中央在1923年6月制定了《中国共产党中央执行委员会组织法》：
　　(一)中央执行委员会由本党常年大会选出。其一切行动对大会负责，在两大会之间为本党最高指导机关，管理各区各地方之行动，发行用本党名义之出版物：并管理派遣做青年，妇女，劳工，农民等工作之职员。
　　(二)中央执行委员会以九人组织之。中央委员缺职时应以候补委员补缺。大会后之中央执行委员会第一次会议，即应分配工作，并选举五人组织中央局。其余四人分派各地，赞助该地方委员[会]一同工作，每星期将所在地情形报告中央局一次。
　　f三)中央局以中央执行委员会名义行使职权，由执行委员会选出委员长秘书及会计三人，其职务如下：
　　委员长主持一切中央局及中央执行委员会之会议，遇委员长缺席时，由中央局互推一人代理委员长之职权。
　　秘书员[负]本党内外文书及通信及开会记录之责任，并管理本党文件。本党一切函件须由委员长及秘书签字。
　　会计在中央督察之下，管理本党财政行政，并对于各区各地方及本党一切机关之财政行政负责。
　　(四)中央执行委员会常会每四个月开一次，中央局每星期开会一次。中央局自己或经中央执行委员四人之请求，可召集特别会议。在请求书上须说明开会讨论之问题及其理由。
　　(五)执行委员会之一切会议，须由委员长与秘书召集之，附加会议之日程。
　　(六)中央执行委员会及中央局之一切决定，以多数取决，但召集临时全党大会之议决，须以三分之二的多数取决。
　　(七)中央执行委员会，须在全党大会开会日期前至少两月通知召集，附寄议事日程草案，并请地方于通知后一月内交齐议案。各地方议案须互换。
　　(八)中央执行委员会之报告，在开会一月之前寄予地方。
　　(九)中央执行委员会财政报告，由大会指定审查委员会(中央执行委员不得当选)审查后报告大会。
　　(十)如有本党三分一之区代表全党三分一之党员之请求时，执行委员会必须在接到请求书之一月内召集本党临时大会。请求书上必须说明请求召集临时大会之理由。
　　在没有专职档案管理人员的情况下，秘书制度的建立，为档案管理提供了保障，早期的秘书工作在很大程度上肩负着档案保管的职责，《中国共产党中央执行委员会组织法》所说的“管理本党文件”，实际上就是档案管理工作。
　　从1921年至1926年基本上都用“一人管理集中承办”这种方法。不论是发文件或是收文，都由秘书或技术书记经手。谁用文件，就向保管者要，用后归还。这种办法是在文书处理过程中使用的。1923年后，从中央到地方，各级党组织都采用了这种办法“管理本党文件”。当时的秘书既是文件的承办者又是文件的保管者，这在秘书工作人员少而机构又不健全的情况下是个比较适用的办法。各地党、团组织的秘书或技术书记在管理文件时，都采用了登记的方法。一般有文件收发簿、书报刊物登记簿、文件底稿簿。登记簿内栏目主要有文件作者、文件名称、文件内容、收发文时间、份数和备注。而在那险恶的历史环境下这些珍贵的文件都是由负责的秘书秘密收藏的。李达在上海辅德里625号就曾作为秘密收藏文件的地址。后来，毛泽东任中共中央执行委员会秘书，又选择上海慕尔鸣路甲秀里383号收藏文件。1924年6月杨开慧与母亲并携带其子毛岸英、毛岸青来上海后，白天在上海大学讲课，晚上就曾在那里帮助毛泽东整理过文件。为了保密的需要，这些文件用纸及纸张的大小也是有所考虑的。在1925年以前，从中央到地方形成的文件，以32开纸者居多，16开或64开纸者次之。文件基本上是小型的。文件体积小，便于投寄与携带，有利于保管和收藏，以及情况紧急时转移和传递。例如1924年毛泽东就收存了一箱子文件共3000余件。一只家用皮箱存放数千份文件，足以证明文件体积是很小的，否则是放不下的。收藏文件方法也各不相同，有的放在皮箱内，有的藏于器具中，有的放在竹管里，有的埋于地下，有的藏于墙壁内，还有的藏于屋后房檐下。收藏方法或地址，一般只有秘书或经手者一人知晓，对保密有好处。但如果收藏者被捕或发生意外，别人不知晓，也就损失了。
　　随着革命形势的发展壮大及工作需要，以档案整理和保管为职能之一的秘书工作也发生了变化，出现了新形式的秘书工作者。1923年中国国民党与中国共产党实现国共第一次合作后，革命形势很好，党的组织发展很快。在中央建立了组织、宣传、军事部或工人、农民、妇女工作委员会等机构；在地方有了中共区委、中共地委、中共县委、总支部和支部等单位。这些部委和地方机关在开展工作中也都要求配备秘书人员。于是，1925年1月3日在《中央组织部工作进行计划》中规定：一些部委根据机关秘书工作实际需要“须设一技术书记”。1925年11月18日中国共产党主义青年团中央关于《加强文书技术工作》通告中指出：“组织较大之地方或区委会，应有技术书记”。建党初期，所有党的组织机构都很简单，从《中国 共产党中央执行委员会组织法》便可看出，一般由3至5人组成，一个负责人，一名会计，一名秘书或技术书记。一些机关的值班记录、会议记录、汇报记录、交谈记录等等都是由技术书记负责，而且要把记录进行加工整理和抄清楚并送领导人审核。领导人审定后的记录成为正式文件付诸施行。1921年11月中共中央局在一份通告中就要求各中共区委及时向上级作统计报告。比如党的各级组织统计、党团员统计、本地社会调查统计、各种出版物统计、收发文统计等等。在一个机关只有几名领导人分工负责各项工作的情况下，各项统计也由技术书记负责，使机关工作在有秩序的状况下开展起来了。同时，技术书记的更主要的工作是担负文书工作的缮写技术、刻蜡版、油印技术、文件材料采购以及机关事务工作。特别是在敌人脏腑内搞文件的整理、保管及文件和出版物伪装工作等。这些都需要专门研究、专门知识、专门技术。因此，配备技术书记是当时档案工作发展的标志之一。
　　1923年在党的机关内推行秘书制后，机关工作有了良好秩序。当时国共已实现了第一次合作。孙中山要求中国共产党党员帮助国民党各机关建立秘书工作。于是，约从1924年4月份起，党中央就在党内物色了数十名优秀共产党员在中共各级领导机关内担任了秘书或秘书长的职务。秘书工作的又一发展形式“秘书长”出现了。毛泽东、谭平山等约30余位被选为中国国民党中央执委会和地方执委会委员并担任了秘书或秘书长一职。随着革命队伍的不断壮大，机关组织加强了，工作人员增多了，特别是文书处理工作者、文件传递工作者和文件管理工作者增加后需要有专人的领导，领导人就是秘书长。1924年至1926年机关的秘书和秘书长都必须是执行委员，都必须与书记、委员长、部长和主任共同负责机关工作，都必须共同批签文件。在1926年7月建立中共中央秘书处后，担任中央秘书长的同志一般是中央政治局委员甚至是常委。比如1925年全国总工会推选刘少奇为秘书长，而中共中央职工运动委员会秘书长则由邓中夏担任。此后，王若飞、蔡和森、李维汉、周恩来、邓颖超、邓小平等都担任过中共中央秘书长。他们既是最高领班子的高层助理，又是文秘工作的组织者和领导者。文书处理是秘书工作中的核心部分，是领导机关和领导人实现党政军中心任务的重要环节，制定、执行方针政策都离不开文书处理。因此，起草文电、批阅文电、分配文电、管理文电、公布传递文电、承办和会办文电以及保管文电等等都由秘书长掌管。秘书长负责文书处理的重要环节是承上启下，而不是包办代替。一般的是秘书处登记后呈送秘书长，秘书长根据来件的重要性和不同内容分别批上“请某某领导批示”，或请“某某部委办理”等字样。1926年2月4日王若飞在《中央成立秘书部，本人为主任给庆云、伯坚、人达诸同志的信》中说：“中央增设秘书部，调我任秘书主任。”这里说“秘书部主任”实际就是中共中央的秘书长。自从王若飞担任秘书长后，即建立了下级机关对上级机关的请示报告制度、文秘工作密切联系制度。比如1926年8月14日《中共中央关于发文要盖章编号的通知》规定：“各地上报中央的一切通告文件均须盖章发出”。这是王若飞担任中央秘书长后发出的第一份文秘工作业务指导文件。此时，机关的行政、财务、秘书、人事、安全、保密、党务及具体的档案保管工作分别成立了科、处、局等工作机构，1927年9月初，中国共产党第一个档案管理机构——中共中央秘书处文件保管处在武汉建立。从文件保管处的职能、会务和性质上看，它与现在的档案馆有诸多相似之处，也可以说它就是中国共产党在秘密斗争时期创建的第一个中央档案馆。至此，真正意义上的档案工作开始形成，并逐步从秘书工作中脱离出来，独立地在历史舞台上扮演着不可替代的重要角色。