早在西周之前，中国已出现了“选贤任能”的观念和根据考绩黜陟官员的做法。在原始社会后期，部落的首领由民主选举产生。《礼记》卷四《礼运第九》说：“大道之行也，天下为公，选贤与能，讲信修睦。”在百家争鸣、思想自由的春秋战国时期，随着新兴的士阶层的崛起，许多国君意识到“得士者昌，失士者亡”的道理，于是兴起了养士之风，尊重贤才、礼贤下士成为各诸侯国人才竞争的一种策略，许多思想家对选拔人才与治理国家的关系都作过论述。
孔子最先提出“举贤才”的主张。《论语·子路第十三》载，孔子在谈如何为政时，提出“先有司，赦小过，举贤才”，即先要建章立制、做好政府机构改革，其次要原谅下属小的过错，再就是应提拔德才兼备的能人。至于如何才能“知贤才而举之”？孔子认为应“举尔所知，尔所不知”，也就是说，贤才不一定只限于个人所认识者，自己耳目所不及的人当中也会有不少人才，只有广泛地推举才能真正得到贤才。
荀子也是春秋战国时期倡导以贤任官的儒家代表人物之一。在选用人才的原则上，他主张破除世官世禄制度，公开提出“论德而定次，量能而授官”的方针。在《荀子·王霸》中，他说“贤能不待次而举”，还提出了贵贱无常理念：“虽王公士大夫之子孙也，不能属于礼义，则归为庶人。虽庶人之子孙也，积文学、正身行、能属于礼义，则归之卿相士大夫。”这种只看礼义才学不看出身的理念具有现代性，有利于实现社会阶层流动。
因此，中国自古以来就有“王侯将相宁有种乎”的看法，这是后来科举将参政权向平民开放，允许“投牒自进”、自由报考的思想基础。除了儒家以外，墨子在《墨子·尚贤》篇中也有关于尊尚贤能的观点，如：“古者圣王之为政，列德而尚贤。虽在农与工肆之人，有能则举之。”也就是说，人才不问出身，即使处于社会下层而有德的贤才，也应该推举进入社会上层。墨子还提出了一个非常著名的观点：“官无常贵，而民无终贱，有能则举之，无能则下之。”
他认为官位不应世袭，而应依据才能的高低决定。在实行世袭制的先秦时期，墨子能提出这种破除血统论的主张非常不易。这种“尚贤”思想是贤能治国理论最明确的表达，是后来产生科举制的思想文化根源。科举制的产生还与公平理念，尤其是通过考试的方式来公平选拔人才的理念密切相关。汉文帝十五年（前年）九月，“诏诸侯、王公、郡守举贤良能直言极谏者，上亲策之，傅纳以言。”这次诏举第一次采用了策问方式，是有历史记载的世界上第一次采用笔试的方式来选拔人才。
西汉还开始实行察举孝廉和秀才的制度，但因举荐的德行依据“孝”和“廉”是基于主观判断，并无刚性的标准，因此容易导致弄虚作假。于是东汉阳嘉元年（年），左雄“议改察举之制，限年四十以上，儒者试经学，文吏试章奏”，在考察推荐中逐渐加入了考试的因素。三国时曹魏嘉平元年（年），征南将军王昶指出：“考试，犹准绳也。未有舍准绳而意正曲直，废黜陟而空论能否也。”
王昶准确地揭示出考试的测量功能，有如能够精确衡量物体长短曲直的尺度一样，具有客观性和公平性。王昶将考试比为公平尺度的说法，是中国历史上首次对考试作用的准确论述，为后世的科举张本，在中国考试思想史上具有重要的意义。东晋时期，葛洪在《抱朴子》外篇第15卷《审举篇》中，提出了“急贡举之法”的改革建议，并一再强调实行考试的重要性，认为考试选才可以防止人情泛滥和弄虚作假，杜绝“人事因缘”和“属托之冀”。他主张有考试总比没有考试好，一个人的语言文字水平与其素养和能力基本上是成正比的，考试取士不一定所选皆才，但肯定比不试者更能得才。魏晋南北朝时期，察举中考试的重要性逐渐增加，考试程序和场规也在日益制度化、严密化。正是因为有公平考试的理念，以及采用考试防止作假和腐败的实践，考试在人才选拔中的成分越来越大，最终导致科举制的出现。
从隋炀帝大业元年（年）建立进士科举之后，经过三百多年的实施和发展，到宋代以后，科场普遍采用糊名和誊录制度，“一切以程文定去留”，科举制已成为一种“至公”的制度。明代贡院规制更加周严，当时人认为“科目兴贤，在国家为第一大事，在天下为第一公道。”另外，科举制之所以在中国产生，还与汉字书写文化直接相关。因为科举是一种以笔试成绩为评判标准的考选方式，书面成绩是白纸黑字，可以重复考察存留档案。中国汉字文化早熟且发达是科举制产生的前提条件。西方重视口试，到17世纪以后，受中国科举制的影响才在竞争性的选拔中开始采用笔试方式，并且还是受到中国科举考试的启示才仿效的。