从1921年7月中国共产党成立到1933年3月马克思共产主义学校创办，大体上可以算作是党校创立的酝酿期和发展初期。正如党还处于幼年时期一样，党校的发展也经历了步履蹒跚艰辛的探索。马克思共产主义学校的成立，可以说是船出三峡，豁然开朗了。
　　党是在事业发展中逐渐认识到办党校之必要和重要性的。1921年7月，中国共产党成立，这是中国历史上开天辟地的大事变。党的一大通过的《中国共产党第一个决议》就专门设有“工人学校”一节，内中规定，“工人学校应逐渐变成工人政党的中心机构”，“学校的基本方针是提高工人的觉悟。”党的二大制定了第一个党章，并在《关于共产党的组织章程决议案》中强调：“党的内部必须有适应于革命的组织与训练。”
　　1924年5月，中共中央执行委员会扩大会议通过的《党内组织及宣传教育问题决议案》第一次提出，“中央宣传部应当在党报上加重党内教育的工作”，并明确指出：“党内教育的问题非常重要，而且要急于设立党校养成指导人才。”
　　1925年10月，中共中央执行委员会扩大会议作出的《宣传问题决议案》对党校问题作出更细致的规定：“群众的鼓动和宣传中一定要有一种鼓动和宣传的人才。所以开办各地党校确是一种重要的工作。”“现时党内所有的力量，只能开办下列两种形式的党校：（一）各地委之下的普通的党校，造成群众的鼓动员。这种党校应当是工人的，……（二）区委之下的高级党校教育一班政治智识较高的同志和已经有工作经验的同志——造成能够办党的、能够做成负责任的工作的人才。”以上规定涉及开办党校的班次、对象和教育方针，已经深入到党校办学具体要求的层面。12月，中共中央在第68号通告中再次提出：“关于宣传的决议案，工人俱乐部，普通及高级党校，照我们现在的力量都可办到，务要实行。”可见党中央对于开办党校之事已是非常迫切。
　　1926年2月，中央特别会议作出《开办最高党校问题》的决定，提出在北京及广州各办一长期党校。7月，中国共产党第三次中央扩大执行委员会通过的《关于宣传部工作议决案》，在“编译工作问题”中专门规定了党校的教本及普通党员教育的大纲，具体包括《革命常识》《党务常识》等内容。9月22日中央通告第十八号规定：“沪、粤、湘、鄂四区都即须设立普通党校，以养成党的及职工运动的下级干部人材。”
　　1927年4月29日，在武汉召开的党的五大提出：如果我们能在武汉坚守住，我们就在这里成立党校。但在这一年的7月5日，汪精卫公开叛变革命，天地顿时失色，党中央创办一所大型党校的设想当时无法实现了。
　　据考证，我们党最早以党校的名义办学培养干部，始于刘少奇1923年11月在安源开办的安源党校，这是我们党的第一所党校，刘少奇亲任校长并讲授《共产党宣言》。其后，1925年10月，中共北方区执行委员会在北京新街口蒋养房胡同和北京大学三院二楼创办中共北方区委党校，校长是罗亦农。此外，1925年10月至1927年初，根据党中央创办党校的决议，上海、广州及湘、鄂、赣等地先后创办了多所党校，为革命培养了一批干部。
　　1926年5月至9月，毛泽东在广州创办农民运动讲习所。
　　大革命失败后，随着中央苏区的建立，举办党校养成干部成为党的建设的重要任务。党的事业需要革命干部，干部需要革命教育。在这种形势下，1931年11月，苏区中央局在瑞金叶坪召开了苏维埃区域党的第一次代表大会。会后，成立了苏区中央局党校，任弼时任校长。