中国国际人才交流协会是改革开放的产物，是顺应时代的潮流和需要，应运而生的。它与改革开放同步，各个时期工作重点各有不同。
　　
　　1985年的春天，全国引进国外智力工作高举小平同志1983年“七·八”指示的旗帜，根据1983年30号中央、国务院文件的要求，大步向前迈进。在两年多的时间里，引进国外智力蓬勃发展，一片欣欣向荣的景象。在中央引进国外智力领导小组领导下，制定了引进人才等8个政策性文件，落实了一批引进智力项目，在全国各领域、各地区推动引进智力工作的落实，摸索到一定经验，部分项目取得了初步成效。
　　为了在全国范围内开展引进智力工作，1984年底召开了全国引进国外人才和出国留学人员工作会议，组建了以对外经贸合作形式引进智力的中国华阳技术贸易总公司，派出了对留学人员的慰问团。1985年还在厦门召开了《部分沿海开放城市引进国外智力座谈会》。
　　中央引进国外智力领导小组作为党中央下属的工作机构，在确定方针、制定政策、协调各部门各地区的工作中具有很大优势，但由于引进智力是国际间的活动，许多工作不能脱离与外国的相关机构合作，所以，对外联系是绝不可缺少的一个方面。国外有关的人才交流机构多是民间团体和企业，极少有政党对外主持此类活动的情况。虽然政府的支持和推动也不可或缺，但也很少由政府机构直接主持此类工作。为了顺利地扩大对外人才交流活动，我国急需成立一个民间的社会团体，以求符合“国际惯例”，推动对外的人才交流合作。
　　此外，1984年中央决定增加工商企业派出培训人员学习实用技术和管理，必须有人在外负责联系、安排和日常管理工作。国家派出的机构和人员都要集中在驻外使领馆，作为外交使节的一员。而民间社团则不受此限制，可以单独在外设立办事处、代表处，不必事事都要经过外交谈判。这也是我们需要在国内组建“协会”这一社会团体的原因之一。
　　另一个重要因素就是我们需要有一个组织形式来团结、联系国内各行各业对外人才交流的热心人士，和他们联系，听取他们的意见，争取他们的帮助和支持，甚至请他们协助我们完成某些引进智力的具体任务。这些同志有对外交流与合作的经验和能力，有广泛的对外联系渠道，更重要的是他们能体会到小平同志所提出的引进人才对国家建设的重要性，从而能够非常积极主动地参与到引进智力的活动中，并作出贡献。
　　至1985年，经过近两年的努力奋战，引进国外智力工作初步打开了局面，在主要的工作领域有了相应的政策，请进来、派出去都有了一定规模。可以说，当时方方面面积极性很高，大家都希望能把引进智力工作做出成绩。由于上上下下都在努力开拓请进、派出的渠道，与国外相关组织的联系，就有一拥而上的现象。1985年上半年，西德退休专家服务中心就接待了国内12批与他们联系聘请专家的团组，应接不暇。当时，有11个西方发达国家有各种退休专家组织，我们没有归口统筹对外的机构，必定会形成混乱局面。而且，当时外方也在寻求我们国内的对口合作单位。日本花甲协会和西德退休专家服务中心通过其驻华使馆，要求和我们接触，商谈合作。时任国家经委副主任的林宗棠同志建议由中央引进国外智力领导小组办公室统筹对外合作的联系与谈判。因为多头对外形成自己内部竞争，效率降低，实际上对我方不利，同时也增加了外方安排协调的困难。至此，我们组建一个社会团体，亦即“中国国际人才交流协会”的时机已经成熟，只等最后一击了。
　　1985年8月17日，中央引进国外智力领导小组办公室向领导小组写出书面报告，要求批准成立中国国际人才交流协会，作为一个与外方对应的民间组织，统筹对外。报告还提出“协会”设立“理事会”，由各主要领域引进国外智力机构的负责人及部分社会知名人士兼职参加，在领导小组统一领导下，协会起统筹协调作用。此报告获批准后，协会于1985年11在北京成立。1986年4月21日在北京人民大会堂召开了理事会全体会议。会议通过了《中国国际人才交流协会章程》，并决定协会下设“中国国际人才交流基金会”，会议还通过了《中国国际人才交流基金会章程》(其后，根据国务院颁布的基金会管理办法，“基金会”作为独立的单位存在，不再归属协会)。会议同意协会1986年工作要点，计划引进国外技术、管理专家2000人；从工商企业派出科技与管理实习培训人员3000人；并决定年内在日本、美国、西德设立适合这些国家特点的办事机构。会议通过了协会主席、副主席、秘书长、副秘书长和理事人选。张劲夫主席做了重要讲话，他着重讲了协会的宗旨、任务和机构。他说，协会“是一个从事国际人才交流活动的人民团体”；协会的宗旨“即通过国际间的人才交流活动，促进中国工业、商业、财经、科技、教育、医药、文化等各界与各国同行的技术交流和业务合作，为中国的社会主义现代化建设和各国的友好往来、经济发展、科技进步做贡献。”“协会在中央引进国外智力领导小组领导下进行工作。”“协会的日常办事机构为秘书处。”
　　理事人选包括了一些主要的中央部委办中从事对外交流合作的关键人物，诸如外交部、教育部、外经贸部、科技部、卫生部、农业部、计委、经委、中科院、社科院、科协、侨办等等。其中还包括了我驻西方几个主要国家的大使。
　　协会内部的组织架构包括：专家工作部、培训工作部、联络工作部、政策研究部和综合事务部。协会成立初期，限于人力不足，又没有经验，与中央引进国外智力领导小组办公室合署办公，任务同一，基本上是“两块牌子，一套人马”。解决了对外联络的名义问题，也没有增加编制、财务等国家负担。几年之后，才逐渐把驻外机构管理等项工作明确由协会分管，并任命了新的秘书长。协会工作有了具体独立的内容，而且，人员逐步配备齐全，行政、财务有了单独的体系，形成了在中央引进国外智力领导小组办公室统一联系下的一个独立社会团体办事机构。
　　1988年中央引进国外智力领导小组改为“国务院引进国外智力领导小组”，领导小组办公室与国务院外国专家局合并，组成新的“国家外国专家局”。协会也顺应此变动，成为国家外国专家局所主管的社会团体之一，协会组织机构目臻完善，分管事项和其他相邻单位的分工协作关系都更加清晰，成为现在国家引进国外智力机构体系中的一个重要部分。
　　中国国际人才交流协会建立25年来，与改革开放同步。应该说，协会是改革开放的产物，顺应时代的潮流和需要，应运而生，符合各个时期工作发展的要求。因而，在当前国家建设大步向前，对外合作蓬勃开展，各领域、各层次、各种形式引进智力逐渐成为大家普遍接受和积极执行的共同规范，过去需要我们努力宣传和推广的引进智力形式和做法已经成为人们行为的常规，这一新形势对协会的工作提出了新的更高的要求，我们必须与时俱进，研究每一项任务的特点，把工作水平继续提高、更加深入、不断细化，才能适应时代提出的新要求，为国家建设做出更大的贡献。