1929年，励志社在南京成立，社长是蒋介石。
　　蔣介石的初衷是希望将励志社变成一个能端正军中风气的场所，因此，在励志社成立后，他特地为社员制定了一句格言：“立人立己，革命革心”，并颁布了十条戒律：一不贪财，二不怕死，三不招摇，四不骄傲，五不偷懒，六不嫖赌，七不吸烟，八不饮酒，九不借钱，十不说谎，要求所有社员一体遵行。
　　励志社成员分职员和社员两种，其发展对象是军队或军警机关的官佐，军事学校、警官学校及中训团的学员，一般人很难进入。入社要经社长批准，还要在社长，也就是蒋介石面前宣誓。
　　人们用三个字形容励志社的特异之处，就是尖、卡、斌——说它大吧，它比不上国民党其他党政机关，说它小吧，它在全国有分支机构，不大不小是为“尖”；说它上吧，它仅仅是一个服务机构，说它下，它的社长又是蒋介石，不上不下是为“卡”；说它文吧，它的工作人员都穿军装，说它武吧，专司武官人事的部门又不把它的工作人员当做武官看待，不文不武是为“斌”。
　　黄仁霖是励志社的总干事，也是励志社的实际负责人。此人本身是基督教徒，对同样是基督教徒的蒋介石提出的要求履行起来得心应手，且又有出国留学的经历，所以其作法很具创意。
　　如有人随地吐痰，黄仁霖就交代下面的人，在每扇门的背后，放一个小拖把，只要有人进入励志社大门时随意吐痰，就会有励志社的同仁拿着一把拖把，把吐在地上的痰拖干净，然后再对吐痰的人加以劝导。日子久了，也就没人好意思随地吐痰了。
　　黄仁霖知道蒋介石和宋美龄对军官们的衣着是否整洁十分重视，所以特地在励志社门口放了一面镜子，镜子的旁边还悬挂了一则标语，写着“整衣冠”，其目的就是要进入励志社的朋友们修整衣冠，避免服装零乱，有碍观瞻。他还把从美国留学时代看到的自助餐的用餐方法及西方的淋浴方法，引进到了励志社。