1949年5月，西安解放，江隆基任西安军事管制委员会教育处处长。9月，他作为中华全国教育工作者代表会议筹委会候补代表，参加了在北平召开的中国人民政治协商会议第一届全体会议。10月1日，他光荣地出席了在天安门广场举行的中华人民共和国开国大典。1950年1月，西北军政委员会成立，江隆基任西北教育部部长，主持西北五省一市的教育工作，为恢复西北地区大、中、小学教育秩序做了大量工作。
　　1952年10月，由西北军政委员会教育部部长调任北京大学副校长（后任党委书记兼副校长）的江隆基走马上任，协助校长马寅初工作。
　　北京大学是1952年6月至9月在原北京大学、清华大学、燕京大学几所大学的文理学院以及辅仁大学、中法大学部分文理科合并的基础上成立的综合性大学。江隆基认为，办学应主要依靠教师。在北京大学这所学者云集的高等学府，他用谦和的态度和广大教师交朋友，帮助他们解决思想、工作和生活中的实际问题。他为冯友兰、汤用彤、翦伯赞等老教授配备了助手和接班人。他提出评定教授工资级别主要看学术水平。
　　1959年1月，江隆基调任兰州大学党委书记兼校长。江隆基上任后，以饱满的工作热情和全部精力，兢兢业业、脚踏实地开展工作。他从兰大实际出发，作出了一系列科学决策。兰州大学从1959年秋季起，各基础课教研组重新建立起来。全校88门课程都有了教学大纲，大部分课程有了讲义，部分课程还出版了教材。同时，为了提高教学质量，江隆基付出大量心血建立了“以教育为中心，各项工作为教学与科学研究服务”的管理体制，使得学校的原子核物理、细胞生物等四个学科在几年后一跃成为全国闻名的专业学科。
　　江隆基把教师当作学校的“珍贵财富”。他关怀教师，为他们创造必要的条件，及时解决他们在工作和生活上遇到的困难。他深入教学第一线，不管工作有多忙，每周一次的听课从不缺席。由于他的身体力行，全校形成了尊师爱生、勤奋好学的良好风气。
　　江隆基一生崇尚科学与民主，尊重知识和人才。他在多年的办学实践中，把提高教学质量和人才培养作为学校的中心任务；高度重视学校的科学研究工作和知识创新，培养高水平的教师，提升学校整体教学科研水平；始终把学风、校风建设作为贯彻党的教育方针、培养高质量人才的大事来抓。