1927年4月蒋介石在南京建立政权后，于5月初令所部各军分途渡长江继续进行北伐。胡宗南所在之第一师由第二路军总指挥白崇禧指挥，于5月13日自慈湖镇渡过长江北进，先后攻占江浦、全椒、界首、滁县、乌衣、沙河集、张八岭，经蚌埠进抵陇海线。

从1927年6月23日开始，北伐军分三路攻入鲁南。就在这时，国民政府北伐军方面，宁汉矛盾加剧，7月上旬，武汉方面军队向下游进逼。蒋介石急调第七军等部西上防堵，使北伐军在鲁南的攻势顿挫。北洋军孙传芳、张宗昌各部队乘势反攻，于1927年7月24日夺回徐州，8月初打退北伐军的反攻，8月8日开始由徐州一线分两路南下。北伐军连战失利，被迫后撤。1927年8月13日蒋介石在内部矛盾逼迫下宣布下野。8月17日，以李宗仁、白崇禧、何应钦为首的南京军委会发布命令，是日将长江以北所有部队撤至长江南岸，凭江扼守。孙传芳军旋即跟踪追至长江北岸，8月17日，前锋一个旅抵达南京江北的浦口，与南京守军隔江对峙，并互相炮击。

胡宗南所在的第一师在8月中旬经由瓜洲渡过长江，奉令调往杭州驻扎，担任护卫沪杭铁路线的任务。这时胡宗南奉命不再兼任第二团团长，到第一师师部专任副师长。因师长邓振铨久假未归，胡宗南遂代师长职。

1927年8月25日，胡宗南率第一师进驻杭州约十天，忽然接到军委会的急电，命令他立即率第一师从杭州出发，紧急驰援镇江龙潭一线，参与堵截“围歼”南渡偷袭的孙传芳军队。 原来孙传芳军在8月中旬反扑至长江北岸后，进行了不到十天的准备，于8月25日夜至26日拂晓，乘长江江面大雾弥漫，指挥所部八个师六个混成旅约七万多人，在南京下游到镇江之间数百里的长江上进行了大规模的军事偷渡，获得成功，迅速攻占了龙潭与栖霞山一带的阵地，截断了沪宁铁路，接着向两翼扩展，向西威逼南京，向东迫近镇江。孙传芳亲自过江指挥，在龙潭水泥厂设指挥所。孙传芳为示破釜沉舟一举夺回江南之决心，下令“凡运兵完毕之船只一律调回长江北岸由大刀队看管，颇有济河楚舟背水一战之壮志。”

孙传芳军倾全力偷渡长江截断沪宁线威逼京、镇，震动了南京政府。当时，南京政府所辖各军，以李宗仁的第七军与何应钦的第一军为核心，沿长江布防。其中第七军防守南京东西沿江各阵地；第一军则驻防从镇江到上海、杭州的铁路沿线各地。南京政府军委会的李宗仁、白崇禧、何应钦除令驻防南京与镇江的部队从东、西两面围堵外，又电令驻防苏州、上海、杭州的各部队火速增援。

军委会调兵的电令到达杭州第一师师部时，第一师师长邓振铨久假未归，胡宗南乃以副师长的身份率领全师从杭州紧急出发。8月29日午后一时，胡宗南率该师第二、第三两个团先行赶到龙潭前线。

这时，孙传芳军已渡江南犯三天多时间，与南京政府军在龙潭、栖霞山一线展开了激烈残酷的血战，反复冲杀争夺，栖霞山与龙潭主阵地两度易手。双方都伤亡惨重，枪炮声日夜不停。孙传芳军是北洋军阀部队中战斗力最强的劲旅。此次孙传芳又是孤注一掷，志在必得，倾巢出动，破釜沉舟，孙传芳本人亲临前线指挥，因而孙军作战十分勇猛与顽强。在8月29日凌晨，龙潭主阵地第二次被孙军攻占。国民政府军在镇江一翼的东线部队前敌总指挥、第二师师长刘峙负伤，“第二、第十四两师因众寡不敌，纷纷后撤，几至溃不成军。栖霞山也为敌三度攻占。我方溃散部队麇集南京城外麒麟门一带，混乱不堪。……南京城内一片混乱景象，人心惶惶，不可终日。”

就在这战场形势十分危急的时刻，胡宗南率第一师两个团适时赶到龙潭前线。给国民政府军带来了很大的支持与鼓舞。负伤后仍留在前线指挥的刘峙当即命令胡宗南率这两个团由下蜀出发，往汤山、铜山、羊山以南地区，向虎头山、青龙山敌军阵地攻击前进，威胁敌之右侧翼，并设法与西线南京方面国民政府军取得联络，协同作战。胡宗南指挥第二、三两团经短暂休整准备，于当晚向虎头山孙传芳军发动猛攻，占领范家塘及其东北高地，与敌军相峙，稳住了国民政府军的阵地与战场形势。

在胡宗南率两团部队赶到龙潭前线的同时，陈诚部第二十一师的第六十三团及顾祝同第三师一部等也从苏州、上海一线赶到龙潭投入战斗。东线南京政府军力量大增。与此同时，在西线的第七军等部也发动反攻，于29日重新夺回栖霞山阵地。孙传芳的军队被压迫到龙潭一隅。

1927年8月29日晚，赶赴前线的何应钦与留守南京的李宗仁、在镇江指挥的白崇禧电商约定：在8月30日凌晨，分东、中、西三路同时发动攻击，“围歼”龙潭孙传芳军：西线第七军等自栖霞山向东进攻，沿铁路及江边前进；中线与东线的第一军各部由何应钦、白崇禧指挥，自东阳镇一线出发，会攻龙潭。

胡宗南于8月29日夜接到军委会电令：“第一师（缺第一团）击破虎头山、青龙山之敌，占领龙潭车站后，派一部兵力对东阳镇、西沟渡方面警戒，以主力转向头、二、三、四块扁担州之线攻击占领之。”8月30日凌晨，胡宗南指挥所部按时向龙潭东南的制高点石幔山、虎头山、青龙山一线的孙军发动猛烈进攻。同时，其他各部的攻击也开始发动。龙潭战役中最激烈最重要的一场战斗展开了。

此时，孙传芳军已渡江作战五天多时间，虽死伤惨重，仍顽强战斗。孙军渡江各部，包括从栖霞山等地溃败之部队，最后都“聚集在龙潭一隅。计其兵力，有孙传芳联军的第二、四、七、八、九、十、十一、十二、十三、十四等师，及第十五、二十七、二十九、补充第一各混成旅，约达6万余人。依据龙潭以西的黄龙山、以南的青龙山、虎头山，和东西的大石山、雷台山等险隘，编成坚固不拔的根据地，严阵以待，进可以攻，退可以守。孙传芳驻节水泥厂，亲自督战。其悍将李宝章、上官云相、梁鸿恩、崔锦桂、段承泽、郑俊彦等都在龙潭前线指挥。

因此，当南京国民政府军发动三路进攻时，仍遭到了孙传芳军强大而顽强的抗击。孙传芳军还反攻为守，进行全线逆袭。“龙潭周围数十里地，炮火蔽天，血肉模糊。战斗的惨烈，实为笔墨所难形容。”

胡宗南指挥第一师的第二、三两团向石幔山、虎头山之敌进攻，遭到孙传芳军顽强抵抗，拼杀多时没有进展。双方相持不下。直至8月30日午后，由于孙传芳军的渡江航线被南京政府军的海军截断，后援不继，渐渐不支，乃退山隘。胡宗南部与友军逐渐形成对敌三面合围之势。孙传芳军顽抗，居高临下，以百余挺机枪扼守山险。胡宗南师等部往上仰攻，死伤众多，但士气旺盛，至下午3时占领各重要山隘。孙传芳军仓皇向江岸撤退。下午5时，龙潭遂为南京政府军收复。

天黑以后，战场逐渐沉寂下来，双方都在休整，因连日奋战，均已疲累不堪。胡宗南接到上级命令，彻夜警戒，俾翌日拂晓再歼残敌。但残余的孙传芳军困兽犹斗，经一夜休整，于8月31日凌晨，当南京政府军正在部署进攻时，却抢先发动了最后一次的疯狂反扑，“来势极为猛烈。情势险恶，较前犹甚。”同上。胡宗南部与各友军在何应钦、白崇禧的亲临指挥与督战下，奋勇抗击，并发动反攻。恰在这时，胡宗南第一师的第一团从杭州赶到，立即投入战斗。其他援军也先后抵达。南京政府军声势大振。全线反攻，终将孙传芳军全部赶出龙潭一线的阵地，压向长江岸边。上午10时多，胡宗南的第一团攻克了孙传芳的指挥所--龙潭水泥厂。孙传芳丢下部队，登上小汽艇逃向江北，仅以身免。孙军全线崩溃。到此日午后2时，不及渡江北逃之残敌约有四五万人，全部被俘。国民政府军缴枪三万余支，炮数十门，俘孙军高级军官师、旅长数十人。

南京国民政府军取得了震动一时的龙潭大捷，扭转了自8月初反攻徐州失败以来的战场颓势。1927年9月1日孙传芳率残部从长江北岸向北全线后撤，9月2日，南京国民政府军乘胜渡过长江北进，占领浦口、扬州等要隘。