公元290年，时任司州主簿的祖逖在一个寒冷的夜晚与好友刘琨谈论国事，一直交叙夜半才入睡。突然雄鸡齐鸣。刘琨曰：“动荡之秋，鸡犬不宁，半夜鸡叫，不祥之兆。”祖逖猛起披衣对刘琨说：“越石（刘琨字），这不是坏声音，而是让我们起床练武。”故而二人一跃而起，拿下挂在墙上的宝剑，练起武来。从此，祖逖闻鸡起舞，不论寒暑，期待着为国将来干一番大事业。
祖逖生活的时代是我国历史上的大分裂年代，战乱频繁，民不聊生.公元265年，三国魏的权臣司马炎废魏皇帝该国号为晋，史称西晋。280年，西晋灭东吴统一全国。但好景不长，司马炎死后，其儿继位是历史上有名的问百姓无粥何不食肉的白痴皇帝，于是国家动荡丛生，爆发了“八王之乱”，晋王朝骨肉相残。永兴元年（304年），匈奴刘渊自称汉王，起兵反抗晋王朝。接着，羯族石勒揭竿起义，自称赵王。历史进入“五胡十六国”时期。于是，北方人民为避战火纷纷逃难。
逃难中，祖逖随家迁居阳平（山东省大名东），沿途目睹南迁人民的惨状，决心驰骋疆场为国出力，扫平中原，收复溯北。
永嘉五年（311年），匈奴刘曜率军攻陷洛阳，晋怀帝被俘，中原大乱。祖逖率亲邻几百家避难南下，甘苦与共，被推为流徙的首领—行主。因其多行扶危救难之义举，又多权谋，深受大家的崇敬。至泗口（今江苏淮阴北），镇东大将军司马睿任命他为徐州刺史，不久征为军咨祭酒，移居京口（今江苏镇江）。
公元317年，南方的官绅拥戴西晋皇族司马睿为帝，建立历史上的东晋，偏安于长江以南，北方为鲜卑、匈奴等各族所占领。为争夺北方的统一权，各少数民族纷纷崛起，加入征战。逃难于南方的北方人民，思念故土，梦想恢复自己的家园。而没有逃难的北方人民受到少数民族贵族的压迫，希望东晋打回北方来。祖逖秉承人民之志，决意北伐，他进言司马睿要求率兵北伐，但司马睿贪图安逸，不思进取，但他考虑到回绝祖逖会违了民心，于是只给祖逖一个刺史的空头衔和只供一千人用的粮食和三千匹布，不给一件兵器和一个兵丁，令其自己招募。祖逖虽遭冷遇但并不气馁，仍然信心百倍，当他带领各义士 和本流徒部曲百余家乘船渡江时，船行至中流，他击楫发誓说：“祖逖此次过江如不能收复中原，扫平溯北，有如大江！”当时辞色壮烈，豪气冲天，激发了众人的悲愤。渡江后，祖逖屯于淮阴，铸造兵器，招募义士共两千多人，器粮俱备等待进发。祖逖以谯邑和雍丘为据点，分兵攻下浚义（今河南开封西北），虎牢、黄河以南的地方势力如李炬等，都直接或间接地手祖逖控制，使石勒不敢南下。
正当祖逖恢复北方快要大功告成的时候，东晋皇帝司马睿却认为祖逖势力的发展会威胁到自己的统治，于是派南方大族戴渊为征西将军，统司、豫、并、冀、兖、雍六州，节制祖逖。祖逖痛感夙愿难成，遂忧愤成疾，但仍坚持经营虎牢，最后终于在321年病故。
