古泗州始建于1500年前。当年，隋文帝开凿洛渠，引黄河水，经开封、商丘、灵壁、夏丘至临淮（今盱眙县城淮河对岸）入淮。唐开元年间，徙泗州府于临淮县。从泗州通过淮河、运河、汴河和长江，可抵南京、开封、洛阳等重要都市，因此，泗州成为重要的交通枢纽和漕运中心，商贾云集，辎铢喧闹，辉煌了900多年。

400多年前，由于黄河夺汴入淮，洪泽湖水位不断提高，淹没线上移，泗州城根长期在水中浸泡，甃筑的城墙基趾日见崩坏，护城河的水位高于城内。到康熙十九年（1680年），古泗州城终于一夜间被洪水淹没。

现在，泗州城的故处，大部分已露出河滩，这是200多年洪泽湖淤积所至。古城的绝大部分遗址，专家估计沉埋在淮河边旗杆滩和城根滩的田园下，和第一山隔河相望。随着考古发掘的展开，泗州古城将逐步展现在世人的面前。