清末民初，我国在内忧外患之中开始了以普及化、大众化为主要内容的教育近代化历程，基础性较强的小学教育也从无到有，不断发展壮大。经过1922年学制改革，到1927年南京国民政府成立时，基本上确立了我国的近代教育体制，奠定了小学教育的基础。由于政局动荡，全国、广东省和广州市的小学教育发展缓慢。　　1927-1937年，是广东省和广州市历史上政治相对稳定、经济发展较快的时期。这一时期，广州市的小学教育取得了很大进步，其发展过程可分为两个阶段。第一阶段是大力发展小学校时期（1927-1933年），广州市政府新建了大批小学校，在校学生大量增加，学校规模不断扩大;第二阶段是厉行义务教育时期（1934-1937年），市政府缩短教育年限，增加班额，举办短期小学，以普及四年制义务教育。　　在发展过程中，市立小学、私立小学和私塾呈现出不同的发展趋势。市立小学统一了学制，完善了学校组织系统，教育思想也异常活跃，学校数、学生数、教职员数、教育经费数都有较大增长，学校规模不断扩大。而政府对私立小学的政策则由“稍加经济补助”改为“限制”、对私塾由“改良”变为“逐渐取缔”，导致私立小学和私塾逐渐衰落。由于政府教育政策失当、下层民众生活贫困、社会商业意识较强等因素的影响，广州市的小学教育出现了若干问题，主要表现为儿童入学率较低、教育设施简陋、教师薪俸下降、教学质量较差等，使小学教育未能取得与经济发展相适应的地位，教育近代化仍然任重而道远。