京师大学堂诞生于戊戌变法时期。
光绪二十四年（1898）6月11日，光绪帝颁布《明定国是诏》，正式提出要兴办京师大学堂。同年7月3日，京师大学堂在孙家鼐的主持下在北京创立，最初校址在北京景山东街（马神庙）和沙滩（故宫的东北）红楼（北京五四大街29号）等处。京师大学堂是中国近代正式设立的第一所大学。1900年，八国联军侵华，打入北京后，京师大学堂遭受破坏。1902年12月，京师大学堂恢复。吏部尚书张百熙任管学大臣。吴汝纶和辜鸿铭任正副总教习，严复和林纾分任大学堂译书局总办和副总办。创办于1862年洋务运动期间的京师同文馆也并入大学堂。1904年选派首批47名学生出国留学。
清末，京师大学堂被直呼为“大学堂”，是全国最高学府和最高教育管理机构，也是中央政府正式承认的第一所大学，是早期学制规定的全国惟一的大学堂。大学堂的第一个办学章程《总理衙门奏拟京师大学堂章程》中提到“京师大学堂为各省之表率，万国所瞻仰……各省学堂皆当归大学堂统辖，一气呵成”。中国近代第一个学制《钦定学堂章程》（“壬寅学制”）中规定全国仅设京师大学堂一所大学，“京师大学堂主持教育，宜合通国之精神脉络而统筹之。现奉谕旨一切条规，即以颁行各省，将来全国学校事宜请由京师大学堂将应……京师大学堂本为各省学堂卒业生升入专门正科之地”。中国近代第一个颁布实施的学制《奏定学堂章程》（“癸卯学制”）则认为全国可设多所大学，但暂先仅设京师大学堂一所，“中国地大民殷，照东西各国例，非各省设立大学不可。今先就京师设立大学一所，以为之倡，俟将来各学大兴，即择繁盛重要省分增设，并以渐推及于各省”。
自科举制度和国子监相继取消以后，京师大学堂即成为中国惟一最高学府和最高教育管理机构，也成为科举取士制度的替代品。1904年京师大学堂进士馆开学，招收了最后两批科举进士，即癸卯科（1903年）进士80余名和甲辰科（1904年）进士30余名入学；1905年国子监停办时，一批未毕业的学生直接进入京师大学堂学习。可见，京师大学堂继承并替代了科举制度和国子监，是古代取士制度与高等教育向现代演进的承上启下者。因此，很多学者如胡适、季羡林、冯友兰、周培源、任继愈、萧超然等都认为，京师大学堂（北京大学）是中国自汉代太学以来国家最高学府的惟一正统继承者，甚至北大的历史可以因此上溯到两千多年前汉武帝设立太学之时。