1927年大革命失敗后,國內政治局勢急劇逆轉,中國革命進入低潮。八七會議后,毛澤東作為中央特派員到湖南改組省委,并發動和領導了湘贛邊界的秋收起義,許多人紛紛響應,有些抗日青年也加入了進來。在攻打中心城市受挫后,以毛澤東為書記的前敵委員會當機立斷,毅然改變原定部署,決定到敵人控制比較薄弱的山區尋求立足地。10月,毛澤東率領湘贛邊秋收起義的工農革命軍到達羅霄山脈中段的井岡山地區,開展游擊戰爭,進行土地革命,恢復和建立共產黨的組織,建立革命政權和赤衛隊。與此同時,經過團結、教育、改造工作,將袁文才、王佐兩支農民自衛軍編入工農革命軍。至1928年2月底,包括寧岡全縣,遂川西北部,永新、酃縣、茶陵等縣部分地區的井岡山革命根據地初步建成。4月,朱德、陳毅率領工農革命軍由湘南到達井岡山,同毛澤東領導的工農革命軍會師,合編為工農革命軍第4軍,后改稱紅軍第4軍。
1928年4月底,朱德、陳毅率領南昌起義保存下來的部隊和湘南農軍到達井岡山,和毛澤東領導的工農革命軍會師,成立了中國工農紅軍第四軍。5月,組成了以毛澤東為書記的中共湘贛邊界特別委員會;接著成立了袁文才任主席的湘贛邊界蘇維埃政府。紅軍在赤衛隊和人民群眾配合下,接連打破了江西國民黨軍的多次“進剿”。至6月,井岡山革命根據地擁有寧岡、永新、蓮花3個縣,和遂川、酃縣、吉安、安福等縣的部分地區。之后,又打破了湘贛兩省國民黨軍的兩次“會剿”。12月,彭德懷、滕代遠率領紅5軍主力到達井岡山,同紅4軍會師。此后,紅軍粉碎了敵人的多次“圍剿”,根據地不斷擴大。1929年1月,毛澤東、朱德率領紅4軍主力向贛南、閩西挺進后,留下一部紅軍堅持井岡山的斗爭。

井岡山,地處湘贛邊界羅霄山脈中段,介于湖南酃縣和江西寧岡、遂川、永新四縣之交,總面積約四千平方公里。大革命時期,這幾個縣都建立了黨的組織和農民自衛軍,群眾基礎比較好;山由的茨坪、大小五井等地都有水田和村莊,周圍各縣農業經濟可供部隊籌措給養;這里離中心城市較遠,交通不便,國民黨統治力量薄弱;崇山峻嶺,地勢險要,森林茂密,只有幾條狹窄的小路通往山內,進可攻,退可守。這里過去長期有"山大王",現有袁文才、王佐兩支綠林式的農民武裝,各有一百五六十人、六十支槍。王佐部駐在山上的茨坪和大小五井等處,袁文才部駐在井岡山北麓的寧岡茅坪,互相配合,互相呼應。
工農革命國要在井岡山落腳,不得到袁文才、王佐的允許是根本不可能的,而事情并不那樣簡單。他們兩人雖然參加過大革命,袁文才還是共產黨員。但他們對前來的這支工農革命軍畢竟沒有多少了解,還擔心這支比他們力量大得多的部隊上山會不會"火并山寨",奪取他們原有的地盤,心中難免存有疑慮。在古城會議期間,袁文才的代表曾表示:可以接濟工農革命軍一些給養,但請工農革命軍"另找高山"。怎樣說服和爭取這兩支農民武裝?毛澤東選定先從已加入中國共產黨的袁文才入手,再通過他去做王佐的工作。 他從袁文才的代表陳慕平的談話中已經知道,他們最看重槍,人可以少一個,槍卻不能少一支。袁部有一百五六十人,只有六十支槍。于是,毛澤東向前委提議,準備一下子送他們一百支槍,將袁文才的全部人員都武裝起來。前委成員聽到這個大膽的設想,有的人表示懷疑,余灑度堅決反對。經過毛澤東反復說明,才以多數通過。 古城會議后,毛澤東從綠林重義氣、多猜疑的特點出發,只帶幾個隨員到寧岡大倉村去會見袁文才。那是十月六日。袁文才原來還有些怕,預先在林家祠堂埋伏下二十多人,二十多支槍。見到毛澤東只來幾個人,他就比較放心了,埋伏的人始終沒有出來。見面中,毛澤東說明是由江西省委介紹來找他們的,充分肯定他們"劫富濟貧"的革命性,同時說到工農革命軍品目前的困難。雙方談得很投機。毛澤東當場宣布送給他們一百支槍,這很出袁文才的意料,也使他很受感動。袁文才向毛澤東表示,一定要竭盡全力幫助工農革命軍解決各種困難,隨即回贈給工農革命軍六百塊銀元,并同意革命軍在茅坪(這是一個有六十多戶人家的村子)建立后方醫院和留守處,答應上山做王佐的工作。當然,問題并不是在一次見面中就能全部解決的。袁文才當時對毛澤東說:"你們既然來了,就有福同享,有難同當,傷員和部隊的糧油我管,但錢寧岡有限,還需要到酃縣、茶陵、遂川一帶去打土豪。"話講得很客氣,但顯然已包含著推托的意思。至于王佐的態度如何,那時還不知道。解決這些問題,需要一些時間而不能操之過急。因此,毛澤東決定工農革命軍主力在井岡山周圍盤旋打游擊,先向湘南的酃縣方向挺進,籌些款子,熟悉周圍環境探聽南昌起義軍進入廣東后的情況,而把留守部門和傷病員安置在茅坪,請袁文才代管。不久,又應袁文才的要求,派游雪程、徐彥剛、陳伯多等黨員軍事干部到袁文才部隊里幫助他們進行政治和軍事訓練,工農革命軍和袁、王部隊的關系一天天密切起來了。 工農革命軍到了井岡山后的第一件事,就是抓軍隊和地方的建黨工作。沒有一個堅強有力的黨組織形成核心,軍隊也好,根據地也好,都會松散無力,難以鞏固和發展。所以,毛澤東把這件事看作一切的根本。