不过数日，朝廷下旨以潘鼎新丧城失地之罪，夺了他的巡抚之位，并去掉他主持安南战事的差事。新任两广总督张之洞起用冯子材为广西关外军务帮办，令他率领王孝祺、王德榜、苏元春等将领驻守镇南关。
接令后，冯子材即率部起程赶往镇南关，此时残留在越南的清军连遭败绩军心不稳，且各部之间多存派系门户之见。不但有原潘鼎新所领的淮军又有驰援的粤军还有滇、桂防军，甚至还有太平天国后窜入越南的刘永福的黑旗军。一到镇南关冯子材即刻召集前线诸将，动之以情，晓之以义，肃之以令，使其各部能暂除门户之见共同抗敌。
安抚好前线将士后，冯子材和杨详等即爬山涉水勘察地形，根据当前敌情和镇南关周围的地形条件，决定在镇南关关前狭隘地区依托有利地形，构筑坚固防御阵地。杨详指出镇南关外约4公里处有处关隘，系镇南关通往内地之要冲，东西山岭对峙，中间有一条长2公里多、宽1公里多的盆谷，地势险要，易守难攻，所以要守镇南关当在此处挖壕垒石以为防御之重。
杨详以为可行欣然接受并亲督士卒用土石筑起一道长1.5公里、高7尺、宽4尺的土石长墙，横跨于东西山岭之间，墙外挖成深4尺的壕堑，并在东西山岭修建堡垒多座，形成一个完备的山地防御阵地体系。
于此同时法军持续增兵，在距镇南关外仅20公里的文渊、谅山等地驻扎，准备组织新的进攻。
在兵力部署上，冯子材与杨详等探讨，由冯子材亲率所部萃军9营扼守镇南关前的关隘，在所修建的长墙及两侧山岭险要，担任关前隘主阵地正面防御。由总兵王孝祺部8营屯于冯军之后的镇南关为第2梯队；湘军统领王德榜部10营屯关外东南的油隘，保障左翼安全并威胁敌之后路；冯子材另以所部5营屯扣波，保障右翼安全；广西提督苏元春部18营，屯关前隘之后2.5公里的幕府为后队；另有刘永福的黑旗军为机动。总计前线兵力约60余营，3万余人，一切准备就绪。
3月中旬，清军得悉法军将经扣波袭艽封、攻牧马，绕过镇南关突袭清军的背后。是时，各部要么有守御要么相距甚远唯有黑旗军即为机动且相距不远。但黑旗军人数虽不少，且困于越南多年又与法军相战多次人疲马乏器械落后，冯子材更恐其是太平天国余孽如突生变故大军恐不堪设想。杨详知之冯子材的顾虑，但他更知刘永福和黑旗军会竭力抗法，因此自告奋勇入黑旗军中以为监督。冯子材虽不忍杨详以身犯险前去，但军中除他无人合适，因为淮军、湘军都剿过太平军而滇、桂防军也围堵黑旗军多年，只有杨详与黑旗军无过节正好入黑旗军所以只好答应。
杨详从军中提了两百支火枪，冯子材让自己的三儿子冯相华亲当杨详的护卫，带了一队人前去黑旗军。