1945年8月中旬， 黃克誠奉命率新四軍第三師主力一部， 進抵淮南津浦路以西， 協同新四軍第二師阻止國民黨桂系部隊東進。 當黃克誠得悉蘇軍發動遠東戰役之後， 一向深謀遠慮的他向華中局書記饒漱石提議， 立即給中央發報， 建議中央及軍委迅速派大部隊到東北去， 不要管蘇聯同意與否， 不可錯過時機。 然而， 饒漱石卻不同意， 黃克誠即以自己的名義起草了一份電報。
在這份《我對目前局勢和我軍軍事方針的意見和建議》的電報中， 黃克誠主張有決心地、主動地放棄一些地區， 集中主力進行決戰，
抗戰時期的黃克誠
一、東北既能派隊伍進去， 應儘量多派， 至少應有5萬人， 能去10萬人為最好。 並派有威望的軍隊領導人去主持工作， 迅速創造根據地， 支援關內鬥爭。
二、以晉、綏、察三地為關內第一戰略根據地， 應集中10萬主力， 進行消滅傅作義、閻錫山、胡宗南之決戰， 達到控制整個察、綏與西北部和太行山全部。
三、以山東為關內第二戰略根據地， 應集中15萬主力， 待敵人繳槍之後， 在濟、徐、膠、海鐵路線進行決戰， 達到控制整個山東。
四、其他各地區， 則成為二大戰略根據地之衛星， 力求爭取局部決戰之勝利，
新四軍三師領導：前排左楊光池， 中吳法憲， 右洪學智， 後排左黃克誠， 右張愛萍（1942年在蘇北三師)
電報發出的第九天， 在剛剛收復的淮安城中， 黃克誠接到了命令， 要他率新四軍第三師主力開赴東北。 當時李運昌部已在東北接管了蘇軍繳獲的幾座軍火庫， 很多人主張留下裝備輕裝前進。 在動員會上黃克誠力排眾議， 給部隊下達了兩條命令：一是要部隊帶上棉衣， 二是要全副武裝。 多餘的武器可以留下， 交給地方使用。 9月28日， 黃克誠與副師長兼參謀長洪學智一起， 率全師3．5萬人從淮陰啟程。 向山東進發。
離開蘇北之前， 華中局和新四軍軍部曾指示第三師到達山東後停留一個時期休整部隊，
第三師挺進東北
10月6日， 中央軍委回電：為迅速達成戰略任務， 三師部隊在到達山東後， 應兼程北進， 不在山東擔負戰鬥任務。 黃率部在山東臨沂休整兩天后， 即向河北進發。 第三師蘇北出發時部隊動員口號為到隴海線作戰。 跨過隴海路後是到平津之間去作戰。 到達冀東地區， 從楊村過了平津鐵路， 進抵三河、玉田一線後， 各部隊才正式開始了進軍東北的動員。 11月中旬， 根據中央軍委的命令， 第三師經豐潤、遷安， 由冷口出關。
第三師在江蘇、山東、河北時一切順利， 但出關後給養發生嚴重困難。