清朝晚期，延续上千年的科举考试已不能适应形势发展，新式学堂在各地兴起。1903年，科举全国会试进行改革，取消了四书五经的内容和八股文的程式。由于北京顺天贡院被八国联军焚毁，1903年、1904年的全国会试改在全国四大贡院之一的开封河南贡院举行。科举改革成效有限，有识之士纷纷主张停科举以推广学校。在开封人徐世昌的参谋下，1905年，河南籍政要袁世凯领衔，促成清政府废止科举。在此前后，河南兴办了河南大学堂（河南高等学堂、河南高等学校）、河南优级师范学堂、河南法政学堂、焦作路矿学堂、中州公学等，但办学理念不够先进，河南教育依然落后。

　　河南政府决定向日本派出留学生，经费的筹集出现了困难，袁世凯获悉，捐银万两资助。1905年，河南首批官派留学生60人赴日。河南省谘议局议员、29岁的举人王敬芳（王抟沙）[2]是其中之一，他在日本弘文书院研修教育。日本著名启蒙思想家、“近代教育之父”福泽谕吉打动了他，福泽谕吉开办庆应义塾，采用西洋教材，进行英文教学，很有成效。1906年，同学陈天华为警醒国人投海自杀，王敬芳归国，与其他同学在上海创办中国公学，用西学开展留学预备教育。中国公学的河南籍学生有冯友兰、万鸿图、王拱璧、林伯襄等。

　　1911年，辛亥革命爆发，中国公学停办，王敬芳回到河南。在省城开封，他组织新民学社，主张革新教育，建立河南留学欧美预备学校。1912年4月29日，王敬芳作为第一发起人，刊布《筹办留学欧美预备学校公启》。他在文中说：“举国自由，中州独后，河南之不若人甚矣”，“根本之救治法若何？是非多遣留学欧美，以造就真才不可”，“河南各中学迟钝、腐靡，不足养成留学资格固矣。既名高等学校者，按其实际，亦难言之”，“预备学校所以不能不专设也。”河南都督张镇芳、教育司司长李时灿表示支持，张镇芳、李时灿均为大总统袁世凯亲信。袁世凯也有支持。

　　1912年9月下旬，河南省立留学欧美预备学校正式开学。校址选在原河南贡院。学校首任校长为林伯襄，曾在河南优级师范学堂、中国公学读书，是李时灿、王敬芳的学生。