西晋灭亡后，北方土地沦陷于五胡之手。琅琊王司马睿南渡建康，建立了东晋王朝。
出于各种原因，东晋组织了多次北伐。在东晋中前期的历次北伐中，以祖逖、庾亮和殷浩三人主持的北伐规模最为庞大。然而，令人奇怪的，三次北伐却出现了一种不好的倾向，越是东晋朝廷支持，北伐就打得越弱。起初，祖逖北伐全靠自筹兵粮，却能与后赵打得平分秋色，到后来，殷浩在朝廷的全力支持下，却遭到惨痛的失败，一胜难求。
个中原因何在呢？
一、祖逖北伐，在收复河南之时功亏一篑
祖逖，本是河北范阳的豪强。五胡之乱，他举家逃亡到江南。公元313年，祖逖向琅琊王司马睿——此时晋愍帝尚在，司马睿没有公开称帝，但已掌握江东的大权，请求趁后赵立足未稳，发兵进攻河南，收复失地。
为什么说后赵立足未稳呢。彼时晋愍帝尚在洛阳苦苦支撑，前赵刘聪刚刚自立为帝，石勒率兵攻略河北山东河南一带，后赵帝国正在形成过程中。趁此时机进攻，能掌握相当大的主动权。
司马睿的注意力全放在开拓和巩固江东上，对北伐并无太大兴趣。他虽然允许祖逖北伐，但只给他“千人廪、布三千匹”，除此之外，“不给铠仗，使自招募”。
只有一千人的粮食，三千匹布，此外无兵、无甲、无兵器，任凭祖逖自行招募。
但祖逖并未丧气，他率领本族部曲百余家渡江北上，招募军队，打造兵器，不断消灭各地坞堡势力。石勒遣石虎来攻，被祖逖屡屡击败。河南各地首鼠两端的坞堡豪强见势不妙，纷纷归附祖逖。
祖逖也并不是一味发动进攻。他把大本营前移至谯州（今安徽亳州）后，大力巩固已恢复的土地，组织居民耕种，大力发展生产。所以东晋虽然没有继续补给，祖逖大军却也丰衣足食，在河南站稳了脚跟。
石勒忙于和前赵刘曜大战，无暇顾及河南战事，不得不对祖逖示好。祖逖暂时用心于巩固河南，也无力继续过河北进，双方都摆出一副和好的阵势，没有发生大规模战事。这对祖逖来说倒是件好事，假以时日，将河南经营的铁桶一般，无疑有利于进一步扩大北伐战争的规模。
然而东晋内部发生了变化。从祖逖上书北伐，到巩固河南，已经7年有余。这期间晋愍帝投降，司马睿在建康称帝，江东逐渐被司马氏和王氏掌握，司马睿终于有余力关注北伐。他任命藩邸旧臣戴渊为征西将军、都督兗豫幽冀雍并六州诸军事、假节，实际上取代祖逖，成为北伐的前线统帅。
戴渊不具备足够的军事才识，而担当此任，目的不外乎是为司马睿掌控各地军权。祖逖闻讯，忧愤难平，321年祖逖发病而死。他北伐恢复的两淮和河南土地，重新沦入后赵之手。
祖逖北伐，由低调出发，到扎实进取，再到恢复河南，成就之大，为东晋开国以来最强的一次。然而最终由于东晋支持不够，祖逖尽管实力非常强盛，仍然不免掣肘于国内政局，最终导致无法继续进取，反而被后赵后发先至，白白丧失了北伐成果。
二、庾亮北伐，出师未捷身先死
晋元帝、晋明帝相继去世后，第三任皇帝晋成帝即位。庾亮是晋成帝的舅父，靠着庾太后在宫中的支持，庾亮实际上掌握了朝政。
晋成帝咸和八年（333年），后赵石勒病死，庾亮认为北伐时机已至，遂发动了北伐。庾亮彼时担任都督江荆豫益梁雍六州诸军事、江荆豫三州刺史，手中掌握着东晋几乎全部兵马。
庾亮分遣诸将进驻邾城（今湖北黄冈）、江陵等要地，自率大军十万进驻襄阳，而后上书请求北伐。晋成帝年少，并不能决断朝政。庾亮名为上书，实际上是征求建康各家门阀的意见。结果，以王导为首的诸大臣都反对北伐。庾亮郁郁难平，迟迟无法动兵。
后赵石虎则主动进攻，派兵包围邾城，晋将毛宝、樊峻等战死，晋军还未出师便遭遇挫折，这次北伐也就不了了之了。339年，庾亮病死，其权柄由弟弟庾翼继承。
庾翼吸取了庾亮北伐准备不充分的教训，大力整顿军纪，加强武备，发展生产，数年之间，诸州人情归附，秩序井然，呈现出一派积极的局面。建元元年（343年），庾翼一边上书朝廷试探朝臣的意见，一边遣使约辽东前燕、陇西前凉一同出兵攻赵。
东晋朝中一如既往地反对和牵制北伐。庾翼没有像庾亮那样蹰躇不前，把朝臣们的意见弃若敝履，径自发兵4万北伐。庾翼的外甥晋康帝不得不下诏同意庾翼北伐，并加授其官，让他专心北伐。
结果晋军进至丹水一带，又被后赵军击败。庾翼不得不从襄阳退守夏口。志犹未已的庾亮仍然整顿军马，补充军实，意图再举。然而不幸的是，次年庾翼不幸病亡，北伐之议便停止了。
庾氏兄弟北伐，虽然最终取得了朝廷支持，但由于东晋内部反应过慢，没有达成军事上的突然性。晋军在缓慢地准备进攻时，后赵早已动员完毕，并能抢占先机，打败晋军前锋，极大地挫伤晋军锐气。这导致晋军主力还未与后赵决战，便在国内汹汹之议中被唾沫淹死。
三、殷浩北伐，东晋北伐史上的大笑话
永和五年（349年），后赵石虎病死，诸子争位，发生重大政治动荡。东晋抓住时机，以褚裒为主将北伐。褚裒和庾亮一样同是外戚，系晋康帝的岳父。这位国丈爷并没有统军作战的本事，他担纲北伐主帅，只不过是以北伐为旗号，强化门阀势力。
晋军进至代陂，结果又被后赵二万骑兵进败，晋将王龛被俘，褚裒狼狈退还京口，随军南下的二十多万军民，被尾追而来的赵军抄虏殆尽，东晋遭到惨重的失败。京口亡故士兵的家属哭声震天，褚裒素以名士自居，对政治声誉看得极重。打了败仗他倒没有什么触动，但军民的哭诉与指责，却结结实实地造成他政治上的减分。褚裒惭恨交加，于兵败次年病亡。
但东晋并没有因此停止北伐，此时后赵内乱正在进一步扩大，北方前燕不断南下袭击，正是因乱取敌的大好时机。东晋又以名士殷浩为中军将军，都督青、徐、兖、豫、扬诸州军事，再次整顿军队，准备北伐。
352年，经过近三年的屯田与整军，殷浩率大军数万北出寿阳，向西北方向进攻河南腹地。但因前军谢尚辖下的将军张遇叛变，晋军惨败于许昌城下，谢尚逃回淮南，殷浩主力军不得不退回寿阳。
次年，殷浩再度整军北进，发兵7万进入河南，直取西晋旧都洛阳。其时羌族姚襄一部兵力屯驻在淮北一带，名为东晋治下，实际上处于拥兵自守的状态。
殷浩以名士自许，对胡人甚不礼遇，曾数次发兵进攻姚襄，企图消灭之。进攻失败后，殷浩又遣刺客暗杀姚襄，也未能成功。由此与姚襄结下深仇大恨。殷浩北进之时，没有充分估计姚襄的危险性，放心大胆地进兵。
姚襄怀恨在心，发兵在山桑（今安徽蒙城）偷袭殷浩大军，晋军猝不及防，死伤万余人，被迫退兵。
殷浩也不甘心，退兵之后屡屡发兵进攻谯城、山桑，企图解决这个毒瘤。然而殷氏治军无方，打仗又不在行，诸军在淮北屡吃败仗。殷浩的政敌桓温上书弹劾，指责殷浩连年动兵丧师失地，晋帝无法承受桓温的压力，将殷浩废为庶人。
殷浩是东晋士族的典型代表，他以清谈而闻名于当世，嘴头上功夫了的，实际却没本事。但就是这样一个草包货，居然还被士族们吹嘘为管仲、诸葛亮，可见士族整体已经腐朽至极，无力进行北伐了。