周瑜雖同意與曹操讓土結盟，但具體事宜自然不止此前與司馬懿言語的那般輕巧。
除去原本談定的萬匹戰馬外，孫策隨後來信，又與司馬懿追加了幾個條件︰一是曹操得淮北之後，當將新得領民盡數遷往淮南，僅佔土地而已；二是歸還此前彭城之戰所得的吳人俘虜，並以萬金酬犒吳軍；三是兩國聯姻，周瑜希望曹操能從自己諸女之中挑出一位，嫁與孫權，作為交換，孫策也會挑選一位姐妹，嫁與曹操之子；四是盟約密不公開，吳軍會以羊敗失城的形式交接諸城。
吳軍的條件不可謂不苛刻，而孫策還特地囑咐周瑜，一點不允，便全不退兵。曹操首次得聞時，也不禁對曹仁失笑道︰「孫策小兒好大的胃口，竟欲同時棲身于東西之下，也不怕玩火自焚嗎？！」
言語雖然刻薄，但畢竟是曹操有求于南。斟酌兩日後，他還是回書周瑜，應允了這些條件。但信中也說，條件繁雜，不能一日而就，馬匹金銀只能先交付一半，待吳軍盡數撤離之後，再遣使渡江，將俘虜與余數補全。而聯姻一事，他要派人到信都去接取女兒，一來一回，恐怕完婚的時日會拖到今歲三月，不如到那時再進行詳談。至于遷民一事，曹操口頭答應，但心里並不以為然，打算在得土後拖宕時日，將此事不了了之。
縱使雙方各懷鬼胎，終究還是簽訂了盟約。到了炎興九年正月中旬，隨著第一批馬匹與財帛自瑯琊走海路南下，抵達鹽瀆後，吳人便開始著手退軍。
周瑜先與東軍聯絡棄城的時日，等計議確定後，又發信向西軍報急，說東軍突然大軍壓境，他難以力敵，特來求援。不待西軍回書，周瑜當即從治下挑出數百不從管教的亂民，盡數斬首，而後將尸骨與鮮血灑在城上城下，假作出一副血戰力敵的場景。待西軍趕到之時，只能看見一地狼藉，與下邳城上飄揚的東軍旗幟罷了。
周瑜如是再三，一路羊敗三次，于十日之內將麾下各軍帶到淮水以南，而後分別駐扎在淮陰、圩台、淮陵三城。待重鑄淮水防線後，他這才又向呂縣西軍上書請罪，自言無能。
西軍帥帳得知消息，皆難以置信。自從出兵以來，周瑜本人的膽魄與智謀有目共睹，尤其是彭城一戰，他面對數倍敵軍，尤能全軍自保，西軍諸將听聞，皆以其為南國名將。如此英才，又是名門之後，縱使東軍的攻勢如何神出鬼沒，于情于理，他麾下的吳軍都不至于撐不過兩日。故而諸將多為其開解，說怕是吳軍中出了內間，這才措手不及。
但陳沖反復閱讀周瑜的書信，見信中只說東賊狡詐，自己無備，卻毫無其他言及戰事細節的言語，很快就猜出了事情的真相。他不由對劉備嘆息道︰「看來我還是看輕了伯符啊！他不甘人下，也不願為我驅馳，看來是想另圖江南大業，再做打算了。」
只是雖然明知緣由，但也無法與他人言明。畢竟眼下看來，孫策對北不過是坐觀成敗，借機牟利而已，若將他逼往東人一方，反而是大為不利了。不明不白吃了這樣一個悶虧，也令劉備大感惱火，接連幾日都食不下咽，還對陳沖罵道︰「吳地貉子，毫無恩義。我今日雖吞聲，將來必拿他喂魚！」
話雖如此，霸府還是得發信安撫，陳沖專門傳信于周瑜，基本不談戰事，只是罹罵東人狡詐，曹操無信無義，又談及昔日孫策自袁術部眾反正的功勞，大做表彰。順帶還說起孫策質押在西京的長子孫紹，說他生活一切安好。總而言之，盡是些敲打側抨言語。
但除此之外，西軍也並無更多改變局勢的手段，對于眼下的形勢而言，戰線的變化逼迫他們不得不撤軍︰周瑜自下邳一退，西軍便在呂縣獨自形成一個凸出部。東軍可自東、南、北三面進行展開攻勢，並同時能夠自山陽、下邳一帶直接襲擾西軍後路，若還打算駐留在營壘之內，無異于闔棺等死。
故而在吳軍南撤的第七日，西軍分批撤出呂縣，放棄彭城，自汲水南岸緩緩退回沛國之內。後將大軍分為四部，重新布置防線︰張既率萬人駐守小沛，張飛率萬人南下屯兵谷陽，袁譚率兩萬人防御相縣，而剩下的六萬人馬，則被劉備陳沖帶到臨睢城內，作為預備兵力。一旦前線三城有變，西人便可率大軍馳援解圍。
好在東人暫時沒有繼續進攻的打算。曹操雖然不願遷民，但在此前數月間，大多數徐州百姓都已被遷到淮南。東軍所接手的淮北諸地，也就是不能稱為白地而已，但要以此為根基補給作戰，其實也非常困難。故而在接手彭城與下邳之後，曹操多是在處理修城屯田一事。
隨著東軍將戰線逐漸展開，情形逐漸往陳沖當初最不想看到的方向發展︰失去徐州的屏障後，西人必須在豫州的廣闊平原上獨自與東人僵持。這實在不符合原本制于人而不受制于人的迎敵策略。但事已至此，陳沖也只能不斷調來關西的民夫糧秣，在三軍的駐地擴建城郭。對于已在相縣用大量糧草誘敵的西軍來說，這又是一筆沉重的負擔，並且將在以後的每一年持續消耗大量人力財力。
兩軍就在炎興九年的開春之中沉默地進行築城屯田，數以萬計的民夫在兩州之間往來勞作。由于西人勞役在睢水右岸用水時，經常能遇見左岸的東人屯民，但雙方並不因看見敵國百姓而恐慌，好像仍是如一國一般各行其是，這種繁忙的景象是在二十年前的太平時節都未曾見到的。
但在這看似和平的局面之下，暗中也仍有激流涌動。到二月初的時候，忽然有數人泅水逃到符離，要求求見符離縣令溫平。起初，溫平只以為是逃荒過來的東人平民，並不在意，但等那些逃人說出自己原先所屬的部隊、屬職，溫平這才明白，他們原來是火石埠一戰時被東人俘獲的西軍士卒。
這幾人帶來了一個消息︰就在這幾日，不知是處于什麼緣由，東人將此前所得的西人俘虜聚集起來，在下邳進行大規模屠殺，一開始是進行斬首，而後拋尸泗水之中，接連幾日不停，河畔因此血跡斑斑，連下游的吳人取用時，都覺得河水都帶有一股鐵銹般的血臭味。
到後來，東人覺得斬首太慢，血腥氣也太重，干脆換了法子，改用用繩索將十幾個俘虜捆成一串，逼著他們走入河里，很快就將人淹死了。火石埠一役，西軍在奪橋之戰時被俘虜的士卒有萬人之多，這幾日基本都死在泗水之內，只剩下眼下這幾人勉強掙月兌繩索，從水中逃出。
軍情報到臨睢，霸府極為悲痛，于是仍舊遣使于廣陵，請周瑜在下游為士卒們收斂遺體。到四月時候，周瑜派人拖回了三千余具尸骨回來，河水浸泡多日後，也無法分辨誰是誰了，西軍便在城南做了一個大冢，將他們全部埋在此處。
雖然對東軍的行為忿恨不已，但對霸府諸將而言，更重要的是揣測其背後的意圖。劉備為此召開軍議，詢問眾人意見。諸將中多把此舉當作示威，以為東軍不日便要再次進犯。
但荀攸卻以為不然，他分析說︰「若東人是打算示威，當攜眾到軍前挑釁，以頭顱築成京觀才是。怎會有在下邳殺人的道理？」法正听罷，大為贊同，他說︰「當然不是示威，曹賊攜眾遠多于我軍，對峙如此之久，莫非不缺糧嗎？我敢料定，他食用不多了！」說到這，他又猜測東人下一步的行動，「恐怕這一兩月間，東賊便要撤軍了。」
果然，等到四月中旬，東軍有部隊開始拔營北還，雖然仍有不少余部留在徐州，但已見不到曹操的黃天騰蛇旗幟了。再到五月初，大部分東軍都已自瑯琊北走，新任的徐州刺史袁熙也趕到下邳就任，經密間打探，此時徐州的駐軍已只剩下兩萬余人。
到了這時，西軍中又有孟達、張繡等人請戰，打算趁此機會收復徐州。但劉備與陳沖商議之後，還是拒絕了。對西軍而言，徐州原本就易攻難守，所以才將其轉交吳軍。只是吳軍並無意參與中原事宜，才衍變成如今的僵局。
而眼下既已在豫州築城，耗費了大量財貲，再在徐州這種偏遠難守之地用兵，拉長戰線，不僅在戰略上顯得沒有必要，在財政上也難以支撐。想必曹操也是看準了這一點，才敢就此撤軍吧。
至此，霸府也決定撤軍。大部分將士在臨走時遙望東方，回想在汲水兩岸廝殺時的場景，他們本以為會有更多的惆悵和悲傷，但結果卻只能覓得些許日光下殘存的空虛。
這一場僵持了九月之長，極度血腥又毫無成果的徐州戰事，終于就此告一段落。