1859年1月7日出生在直隶（今河北）河间县西史经村。

1866年7岁入本村私塾读书，5年后入其外公家所在地三十里铺毛公书院读书， 1876年结业，考试名列前茅。

1881年到保定莲池书院进修2年，因家境艰难，1883年辍学回家。

1884年只身去大沽口投淮军，开始军旅生涯。

1885年进北洋武备学堂学习，每次考试都名列前茅。在学习期间，曾回原籍参加科举考试，考中秀才。

1890年北洋武备学堂毕业，被留校任教。

1893年投聂士成军中当幕僚，中日甲午战争前夕，随聂士成赴东北和朝鲜等地考察和测绘地形，编成《东游纪程》一书，被任命为该军军械局督办。甲午战争后，抄录和整理了几大本“兵书”， 被袁世凯视为“鸿宝”，被委任为督操营务处总办，与段琪瑞、王士珍称为北洋“陆军三杰”。

1899年，冯国璋镇压义和团为清朝“立功”，次年由袁世凯保补用知州，随袁世凯入鲁，组成武卫右军先锋队20营。

1901年为袁世凯保定军政司教练处总办。

1901年11月，升为补用知府并加盐运使用权衔。

1903年，担任清政府练兵处军学司司长，亲手培养了一批具有浓厚北洋派系观念的军官。

1906年，署正黄旗蒙古副都统兼陆军贵胄学 堂总办，与满族亲贵建立了密切联系。

1907年至1911年，一直任军咨使，曾条陈时事 数万言，未被采纳，由是“钳口结舌”。

1911年为第一军总统，南下镇压武昌起义，在湖北按兵不动，迫使清廷起用袁世凯。

1911年11月1日出任直隶都督兼民政厅长。

1913年12月16日出任江苏都督，同年晋升陆军上将，后又授以宣武上将。袁世凯死后，为副总统，仍兼江苏督军。

1917年7月，以副总统代理大总统，通电讨伐张勋。张勋战败后，冯国璋依法将大总统职权还予黎元洪。

1918年8月13日，通电辞职。

1919年返回河间故里。

1919年12月28日病逝，终年60岁。