1871年初，河州回民武装乘驻甘南清军范铭部兵变之机，出击会宁、通渭、秦州、清水、两当等地。清廷命令左宗棠进攻河州，但由于清军刚结束金积堡的战役，部队需要休整，左宗棠没有贸然进兵。

宁夏的回民起事被平定了以后，所有甘肃东部平凉、庆阳、泾州、巩昌、秦州、阶州等各州县的零星土、回起事全被肃淸。同治九年六月，左宗棠大军又克复了狄道、渭源二城。左宗棠一方面加紧开办耕垦，以“耕”代赈，分兵屯与民屯两种，为粮食生产的储备作长期的打算，一面将其军事指挥的大营从商泾州迁往静宁州，大军西指，河州战役即将打响。

为进攻河州，清军进行了一系列的准备：第一，加强和整顿甘南部队。甘南的清军冗杂，战斗力很差，屡次被回民军打败。左宗棠刚入甘肃时就派吴士迈等率部由陇州到秦州，以加强甘南防军的力量，这就是执行“三路平回之策”的南路军。1869年底，又派周开锡以翼长名义总统南路的诸军。周开锡到秦州后，即着手整顿甘南清军，遭到当地驻军的反对。由于他暴戾骄矜，激成兵变。后周开锡病死，南路诸军由总理营务处陈湜接任统领。

第二，准备渡河器材。河州在洮河以西，从狄道、陇西、安定等地用兵，须渡过洮河，所以，左宗棠令清军先准备好渡河用的船只和架桥器材，同时，整修道路，以方便部队调动和转运军需、传递文报等。

第三，筹集粮草装备。清军在进兵时，必须要经过渭源属境。这里人烟稀少，一片荒芜，粮草无法筹措，左宗棠便派出部队专事转运，命令清军在静宁等地储存了三个月的粮草。河州一带夏粮秋粮分别在7月底和9月底收割，左宗棠于是把进军时机选定在收获季节，以方便就地取粮。

1871年春，左宗棠已经剿灭了宁夏金积堡马化龙。这年秋天，兵分三路向河州进军：1871年7月底，左宗棠认为一切已准备就绪，便下令四十余营清军分三路进攻河州：中路以傅先宗率鄂军40营（多隆阿旧部）由狄道进兵，一半渡河西进修筑堡垒，一半留驻洮河东岸；左路以杨世俊率楚军20营，从狄道之南关坪进峡城；右路分别以刘明灯率楚军10营由马盘监经红土窑进康家崖，徐文秀率10营由静宁经会宁抵康家崖。左右两路则待中路在河西扎稳脚跟以后再行渡河。此外，又命令提督徐文秀统领后路部队由静宁进会宁，策应右路。同时，派遣五营清军分别驻扎河州东南的岷州（今岷县）和洮州（今卓尼东北）两城，并令洮州土司杨元率“番兵”四千余，把守拉卜塄、槐树关、沙马关、石关、新城堡等关隘，这些部队全接受左路杨世俊的节制。又调总兵徐占彪率领步队八营、马队三营，由中卫经靖远进至会宁西北和安定东北一带，防止河州回民军北进，并可以兼顾兰州。左宗棠自己也在1871年9月中旬由平凉经静宁抵达安定。

同时河州回民武装已经知道了清军即将进攻，加紧准备，防御清军的进攻。白彦虎等人带着陕西回军从固原州一带撤退到河州之后，与河州回民武装一起在洮河西岸修筑了一些堡垒。随后白彦虎等人率部前往西宁地区，河州回民武装又陆续修筑了不少新的堡垒。洮河东岸的康家崖和狄道，是河州回民武装的两个出入口。自1870年6月狄道被清军收复之后，康家崖便成为回民武装出入河东的唯一通道。因此，河州回民武装重点加强了康家崖对岸一带的防御。

1871年9月18日，刘明灯、徐文秀两部从安定出发，分两路进兵直插康家崖。刘明灯、徐文秀两部首先拿下康家崖，回军撤往三甲集一带。清军每到一处，就进行包围扫荡，目的是将正在洮河东岸分散活动的回民武装一并驱赶到康家崖，逼迫其背水一战，达到“聚而歼之”的目的。因为清军在金积堡战役后进行了休整和整编补充，河州回民武装无力抵抗，为缩短战线，在洮河东岸进行了一次阻击，给清军造成了一点杀伤后，就撤往了河西，驻扎于离洮河西岸十里的三甲集一带妄图抗拒左宗棠大军的进剿。

刘明灯、徐文秀部占领康家崖后，左宗棠命令中路傅先宗部和左路杨世俊部在狄道用渡船搭造浮桥，派遣十二营清军过河后修筑营垒（分别在西坪、三岔河、陈家山顶等地扎营），以牵制回民武装，掩护右路清军渡河。回民武装以部分兵力在黑山头、高家集等地筑垒驻守，监视西坪、三岔河、陈家山顶的清军，防止清军偷袭；回民武装主力仍驻在三甲集，以对付康家崖清军的进攻。

回民武装在洮河西岸掘壕沟数道，并修筑有炮台，防守严密。康家崖近岸洲渚纵横，水深流急，人马难越，不利于渡河作战，清军发起多次抢渡都被回民武装击退。11月中旬，前福建布政使王德榜率左宗棠亲兵等马步五营，由康家崖东南六十余里的站滩间道过狄道浮桥，与中路、左路清军配合，猛攻黑山头等处。徐文秀、刘明灯部乘机在康家崖、新添铺（康家崖南二十里）等地搭造浮桥一举抢攻渡过洮河。