河南貢院于清順治十六年(1659年)在明代周王府舊址上(今開封市龍亭一帶)修建，后周和北宋時期，這里是國子監所在地，院內號舍5000多間，明遠樓高4丈余。后來，由于貢院四周常年積水，雍正九年(1731年)院址遷往開封城東北隅的上方寺內(今河南大學)。規模擴大，號舍增至11866間。道光二十一年(1841年)，黃河水沖擊開封城。為了加固城墻，阻止洪水灌城，遂就地取材，拆毀貢院房舍，將磚瓦、材料充作防洪物資。翌年，重修貢院，修葺舊房，新建號舍10009間，鑿井5眼，面貌煥然一新。

1912年，以林伯襄為代表的一批河南仁人先賢在這里創辦了河南留學歐美預備學校，成為當時中國的三大留學培訓基地之一。后歷經中州大學、第五中山大學、省立河南大學等階段，1942年改為河南大學，成為擁有文、理、工、農、醫、法等6大學院的綜合性大學，是當時學術實力雄厚、享譽國內外的大學之一。

新中國成立后，經院系調整，河南大學農學院、醫學院、行政學院分別獨立設置為河南農學院、河南醫學院、河南政法管理干部學院，水利、財經等院系也先后調入武漢大學、中南財經政法大學等高校，校本部更名為河南師范學院。后又經開封師范學院、河南師范大學等階段，1984年恢復河南大學校名。2000年，合并開封師專、開封醫專，組建成新的河南大學。