概念图最早是在20世纪60年代由美国康奈儿大学诺瓦克（Joseph D．Novak）教授等人提出，但概念图这一概念名词的确定却是在20世纪80年代。20世纪60年代初期；行为主义理论还在北美盛行，由于行为主义理论不能很好的解释区别于低级动物的人是如何获得知识的，奥苏贝尔（David P．Ausubel）于1962年第一次提出关于人的学习的认知理论，并在第二年发表的《有意义的言语学习心理学》一书中对该理论作了精辟的论述。奥苏贝尔认为，人的学习应该是意义学习，影响学习的最主要因素是学习者已掌握的知识，当学习者有意义学习的意向，并把所要学的新知识同原有的知识联系起来时，意义学习便发生了。奥苏贝尔甚至在其最有影响的著作《教育心理学：一种认知观》（1968年再版）的扉页上写道：“如果我不得不把教育心理学的所有内容简约成一条原理的话，我会说：影响学习的最重要的因素是学生已知的内容。弄清了一点后，进行相应的教学。” 奥苏贝尔同时对概念的形成和同化进行了区分，认为意义学习的心理机制是同化，除了学龄前儿童，学生的学习都是通过概念同化习得新概念的。概念的上位关系、下位关系和组合关系的层级排列最终形成了学生的认知结构。
　　奥苏贝尔的理论受到了社会的广泛关注。但是，如何知道学生已经掌握了哪些知识?诺瓦克教授根据意义学习和概念同化理论开发了概念图这样一种新工具，并首先在研究儿童能够理解诸如能量、细胞和进化等抽象概念的过程中进行了应用。很快他们发现，该工具同样可以用于教学设计和帮助学生进行有意义的学习，由此导致了对概念图更深入的研究。