何虎臣，字得彪，平番县丰乐堡(今永登县连城镇牛站)人，生于清宣宗道光二十一年(1841年)，出身农民，家贫，幼年当长工度日，而“生有颖异，膂力过人，长益雄伟，负胆略，嗜兵家法”。清穆宗同治二年(1863年)，何虎臣在家乡练团勇，以守卫乡里为己任。清穆宗同治八年(1869年)元月，马占鳌率河州回军数千人进军大通河沿岸，猛攻丰乐堡。何虎臣带领堡内团勇据守，马占鳌连攻十余日，堡未攻克。在防守中，何虎臣亲自登城，用石块向下猛掷，伤回军多人，并打伤马占鳌的一只眼睛。马占鳌大怒，下令猛攻城堡，用大炮轰击并至城下埋设地雷，炸毁城堡数丈，又下挖地道。3月20日回军由地道进入堡内，将据守两个多月的丰乐堡攻陷。何虎臣遁走。
以后，何虎臣投清政府西宁办事大臣豫师从军：豫师令其率领众正营，参与征伐青海藏民起义。何虎臣在贵德察乃海战役中有功，荐保花翎游击，赏振勇巴图鲁名号，署西宁镇标左营守备，清德宗光绪二十年(1894年)，八国联军侵华，何虎臣跟随董福祥的祥字营驻扎河西务。次年，河湟韩文秀等起义。何虎臣奉命为先锋，统甘军前往镇压，攻克狄道，解和政、河州围，进军西宁，平南关，援南川，左腿受炮伤甚重，乃自剜炮子，裹创血战，连克五堡，抵北门，解威远程营及大通县之围。荐保总兵提督，头品顶里戴，赏穿黄马褂，赐博多欢巴图鲁名号，旋署河州镇总兵官。清德宗光绪二十四年(1898年)，何虎臣被调至山西平阳驻防，后移防山海关、秦皇岛一线。次年，被补授为福建汀延邻等处地方总兵。又次年，慈禧、光绪到西安，何虎臣驻守潼关“保驾”。
清德宗光绪二十七年(1901年)，何虎臣奉旨回军甘肃，7月8日，行至固原，因伤病复发而死，终年六十岁。尸骨运回本县，葬于牛站山城坪，敕祭葬，墓前立有来维礼撰《何虎臣将军墓志碑记》。