公元３８３年八月，苻坚亲自带领八十七万大军从长安出发。向南的大路上，烟尘滚滚，步兵、骑兵，再加上车辆、马匹、辎重，队伍浩浩荡荡，差不多拉了千把里长。

　　过了一个月，苻坚主力到达项城（在今河南沈丘南），益州的水军也沿江顺流东下，黄河北边来的人马也到了彭城（今江苏徐州市），从东到西一万多里长的战线上，前秦水陆两路进军，向江南逼近。

　　这个消息传到建康，晋孝武帝和京城的文武官员都着了慌。晋朝军民都不愿让江南陷落在前秦手里，大家都盼望宰相谢安拿主意。

　　谢安是陈郡阳夏（今河南太康）人，出身士族，年青的时候，跟王羲之是好朋友，经常在会稽东山游览山水，吟诗谈文。他在当时的士大夫阶层中名望很大，大家都认为他是个挺有才干的人。但是他宁愿隐居在东山，不愿做官。有人推举他做官，他上任一个多月，就不想干了。当时在士大夫中间流传着一句话：“谢安不出来做官，叫百姓怎么办？”

　　到了四十多岁的时候，他才重新出来做官。因为谢安长期隐居在东山，所以后来把他重新出来做官这样的事称为“东山再起”。

　　苻坚强大起来以后，东晋的北面边境经常遭到秦兵的骚扰。朝廷想找一个文武全才的将军去防守边境。谢安把自己的侄儿谢玄推荐给孝武帝。孝武帝把谢玄封为将军，镇守广陵（今江苏扬州市），掌管江北的各路人马。

　　谢玄也是个军事人才。他到了广陵以后，就招兵买马，扩大武装。当时有一批从北方逃难到东晋来的人，纷纷应征。他们中间有个彭城人叫刘牢之，从小练得一身武艺，打仗特别勇猛。谢玄派他担任参军，叫他带领一支精锐的人马。这支人马经过谢玄和刘牢之的严格训练，成为百战百胜的军队。由于这支军队经常驻扎在京口（今河苏镇河市），京口又叫“北府”，所以把它叫做“北府兵”。