1926年秋，段德昌調(diào)任第八軍一師政治部秘書長，不久升任政治部主任，此間認識了時任國民革命軍第八軍一師一團一營營長的彭德懷。段德昌發(fā)現(xiàn)彭德懷勇武剛直、不貪不賭，在青年軍官中特立獨行，所帶的一營在第一師中戰(zhàn)斗力最強。而彭德懷也十分欽佩部隊中的共產(chǎn)黨員作戰(zhàn)勇敢，對身為共產(chǎn)黨員的段德昌另眼相看。通過接觸，段德昌發(fā)現(xiàn)，彭德懷對國家興亡、人民疾苦很關(guān)心，是一個有理想有追求的人，于是便送了一些進步書刊給他，還介紹他讀《唯物史觀》《共產(chǎn)主義ABC》《通俗資本論》等。彭德懷如饑似渴地閱讀這些進步書刊，思想也隨著革命書籍的浸潤慢慢發(fā)生了重大變化。
北伐軍攻克武昌后，吳佩孚殘部經(jīng)當(dāng)陽玉泉山潰退，彭德懷率部截擊，段德昌同往。他們到達玉泉山時天色已晚，且敵人已經(jīng)撤退，部隊便就地宿營。玉泉山有座關(guān)帝廟，相傳是關(guān)羽顯圣處。當(dāng)晚，兩人在關(guān)帝廟內(nèi)就宿，段德昌因勢利導(dǎo)地指著關(guān)公神像問彭德懷有何感想。彭德懷答道：“關(guān)公是封建統(tǒng)治者的工具，現(xiàn)在還被統(tǒng)治階級利用作工具，沒意思。”段德昌追問：“要怎樣才有意思？”彭德懷毫不猶豫地說：“為工人、農(nóng)民服務(wù)才有意思。”段德昌把話題引開，轉(zhuǎn)到國民革命問題上：“你認為國民革命的最終目的是什么？”彭德懷答：“現(xiàn)在不是每天都在喊著打倒帝國主義、軍閥、貪官污吏、土豪劣紳，實行二五減租嗎？我認為應(yīng)當(dāng)耕者有其田，而不應(yīng)當(dāng)停留在二五減租上。”段德昌說：“一個真正的革命者，也不應(yīng)當(dāng)停留在耕者有其田，而應(yīng)當(dāng)變生產(chǎn)資料私有制為公有制，由按勞分配發(fā)展為按需分配的共產(chǎn)主義制。共產(chǎn)黨是按照這樣的理想而奮斗的。俄國布爾什維克領(lǐng)導(dǎo)十月社會主義革命勝利后，已實行按勞分配，消滅階級剝削。共產(chǎn)黨的任務(wù)，就是要實現(xiàn)社會主義和共產(chǎn)主義，共產(chǎn)黨員就是要為這樣的理想社會而奮斗終身。”兩人深談近兩個小時，這是彭德懷第一次較深入地接受無產(chǎn)階級革命的啟蒙教育，促成了他人生道路上的根本轉(zhuǎn)折。彭德懷后來回憶說：“段同志同我談話有好幾次，但以這次最長，最有意義。”
馬日事變后，彭德懷率部進駐南縣，段德昌因傷在家養(yǎng)病。1927年10月，南華安特委派人同彭德懷接頭，彭德懷說：“我同段德昌同志比較熟悉，他對我?guī)椭艽螅彝握勥^多次，請求他介紹我加入中國共產(chǎn)黨。現(xiàn)在我還想見他，我要求加入共產(chǎn)黨現(xiàn)在還是迫切的。”接頭人說：“段德昌同志介紹你加入共產(chǎn)黨，也是特委同志集體介紹的。現(xiàn)在已報省委，待批準后即正式入黨。”幾天后，在南縣黨組織的安排下，彭德懷見到了段德昌，段德昌向他談了革命形勢并勉勵說：“這次轟轟烈烈的大革命失敗了，蔣介石叛變了革命，革命處于低潮。但是中國共產(chǎn)黨和革命人民是殺不盡的，是不會屈服的。”還告訴他南華安特委已通過了他加入中國共產(chǎn)黨的請求。1928年4月，湖南省委批準彭德懷加入中國共產(chǎn)黨。后來，彭德懷回憶說：“在七大以后，問到我入黨介紹人時，我就說是段德昌。”