冯玉祥是典型的农民儿子。
他的原籍在安徽巢县。父亲是乡下的泥瓦匠，后来投身行伍，全家迁到保定府郊外定居。冯玉祥的原名叫冯御香——“朝罢衣冠沾御香”，也许，他们家从巢县迁到保定，也是为了离天子脚下近一点，好方便“沾御香”吧。然而，他们实际上过着农夫的生活，春耕秋收，拔草拾柴，每逢青黄不接之际，就要把家用杂物送去典当。
冯玉祥的性格非常敏感，这一切在他幼小的心灵里种下了愤世嫉俗的种子。他恨当铺;也恨杂粮店，因为他们家日常吃的米面要靠杂粮店赊账;他恨鸦片烟，因为他的父母饱受其害;他恨贪官污吏;他恨土豪劣绅。总之，乡下贫困的生活，使他满脑子都是怨恨。他的童年只念过一年零三个月的书，从十二岁开始，就到新兵二十镇的军营里练枪打靶，他是一名真正的大兵。
“御香”这个名字确实给他带来不少好运，据说当年慈禧太后从西北回鸾，二十镇要挑选身材健硕、名字吉利的兵丁去站道迎驾，他沾了御香二字的便宜，雀屏中选，真的一沾御香了！冯玉祥第一次和西北发生关系，是在1914年，他作为北洋警卫军第一旅旅长率领部队到陕西一带追剿白朗匪帮，足迹踏遍了陕州、潼关、西安、灵宝、渭南一带。“寻河愁地尽，过碛觉天低”，大西北的景色，深深地烙在他的脑海之中。
直皖战争以后，直军第二十师在阎相文师长率领下，开入陕西，驱逐皖系督军。冯玉祥的队伍取道潼关，第二次进入西北。事先冯玉祥请第十五混成旅旅长孙岳给胡景翼写信，请他夹攻皖系督军，胡景翼慨然允诺。胡是渭北刀客中一名头面人物，黑道中人没有不认识他的。
北洋政府任命阎相文为陕西督军。不料上任不到两个月，突然吞服生鸦自杀，成为民国以来最短命的督军。他的自杀，并无特别理由，只说担心自己不能统一陕西。对一个刚刚以胜利者身份走马上任的将军来说，这个理由近乎荒谬。
阎督军死后，冯玉祥由旅长一跃而为陕西督军，成为民国以来升迁最快的军人。外间哄传阎相文的死与冯玉祥有关，后来，更有人写书，直指是冯玉祥在酒宴之上，以毒酒毒死阎相文，收编了他的队伍。但说归说，还是查无实据，遂成轰动一时的疑案。
冯玉祥拒绝搬进阎留下的督军署，他在西安城西北角另建一座新的督军署。这块地方在明代称作皇城，在清代称作满城。辛亥武昌首义后，陕西响应，关中豪杰攻入满城，把里面的满人杀得鸡犬不留，尸积如山，房子也烧成一片焦土。冯玉祥就在这个地方，作为驻兵之地，修建他的督军署。
这位农民的儿子终于有了自己的衙门，可以坐在高堂之上发号施令了。
冯玉祥上任后，立即疏远了曾为他出过力的胡景翼，他派人对孙岳说：“胡部完全是土匪，扰乱地方，绝不能容的。”
孙岳对冯翻脸之速，感到十分惊讶：“焕章(冯玉祥字)太不够朋友。胡笠僧(胡景翼字)刚帮了他一个忙，他就要反过来收拾他。”胡景翼也深感失望地说：“吴佩孚、冯玉祥要把我挤出陕西，要收编我的队伍。”
第一次直奉战争爆发后，冯玉祥认为是向中原发展的机会，于是积极向吴佩孚请缨。不料吴佩孚对他素无好感，不肯让他上前线。冯玉祥勃然大怒，擅自将队伍拉出潼关。当时吴佩孚在前方忙得不亦乐乎，无暇后顾，只好委任冯玉祥为后方总司令，负责监视河南。
出发前，冯玉祥把陕西的军政大权，全部交给了儿女亲家刘镇华，他把官兵们召集起来说：“这次出征，不是为了个人的私利，而是为了讨伐媚日卖国的奉系军阀。”他抬起脚，把布鞋踢出老远，大声说：“我看督军的位置，如同这只破鞋，我们这次参加战事，完全是为尽我军人保国爱民的神圣天职！”
壮哉斯言！然而，如果在民主国家，一个总统候选人说他视总统职位如破鞋，选民们还会投他的票吗？人们怎么指望一个把自己职位看作破鞋的人，能在这个职位上为国、为民效劳？好在中国的官员都不是老百姓选的，不烦操心。冯玉祥把陕西督军看作一只破鞋，是因为他一心想得到河南督军这个位置。冯玉祥绝不是一个甘于寂寞的人。
河南督军和奉系暗通款曲，宣布武装中立，凡是参战客军逗留豫境，一律解除武装。但冯玉祥的武装，又岂是凡夫俗子所能解除的？双方激战一天，豫军大败。冯玉祥乘机扫荡河南全境。几天以后，政府下令由冯玉祥出任河南督军。
河南是吴佩孚的老地盘，他的大本营就设在洛阳，河南督军在吴玉帅面前，从来就像小媳妇一样。而冯玉祥又是个一贯自行其是，不听号令的人。翩翩儒将和草莽英雄之间，必然水火不容。
上任没几天，吴佩孚便勒令冯玉祥协饷八十万元，以后每月协饷二十万元，冯玉祥就算能筹得出这么一大笔钱，也不会白白送给吴佩孚。他复电拒绝了。吴佩孚明确告诉他，如果他做不到，就请让出河南督军的位置。
冯玉祥感到在河南没办法待下去了，于是跑到保定向曹锟哭诉，他的用意是向吴佩孚摆出投靠保定系的姿态。不料曹锟对河南小媳妇的处境，大表同情，劝冯玉祥干脆调到北京。冯玉祥吃了一个哑巴亏，有苦说不出。
1922年10月，大总统颁布明令，任命冯玉祥为陆军检阅使，交出河南地盘。冯玉祥百般无奈，只好到洛阳向吴佩孚辞行。吴佩孚向冯玉祥提出三个条件：一、河南可以每月为冯玉祥的第十一师协饷二十万元;二、冯玉祥只准带走他的第十一师;三、近几个月来冯玉祥在河南新招募的三个混成旅，应该留在河南。
“一切悉听大帅安排。”冯玉祥毕恭毕敬，倒行而出。但一回到开封，他立即命令新招的三个混成旅以第十一师的旗号，连夜向北京开拔。他们走后，把旗号运回开封，第十一师才正式动身。就这样，他的西北军队终于堂而皇之地开入了北京帝都。
冯玉祥的西北军是一支训练很严格的队伍。从招兵开始，就非常重视士兵的素质。普通士兵以青壮年农民以主，挑选新兵时要先看看头上有没有辫子，没有不行;再看看手掌有没有厚茧，没有也不行。头上有辫、手上有茧，是老实巴交、单纯保守、能够吃苦耐劳的标记。
冯玉祥喜欢问士兵：“你们从什么地方来的？”
士兵们要回答：“我们是从乡间来的。”
“你们的父母、亲戚、朋友是什么人？”
“都是老百姓。”
他也常问自己的儿子：“你的曾祖父和祖父干什么的？”
儿子要回答：“当过农民、渔夫、兵丁。”
听到这样的回答，他便高兴地笑起来。
冯玉祥利用一切机会，向他的官兵灌输平民意识。但西北军里的等级是非常森严的，冯玉祥的命令就是圣旨，任何人不得违抗。在冯玉祥的心腹军官里，没有一个在国外接受过教育。他们的文化水平都很低下。他们打仗靠的是经验和从说书艺人那儿听回来的故事，直至模仿《三国演义》里的诸葛亮来指挥战斗。
为了维护冯玉祥本人在军队中的绝对权威，他把士兵们“结盟”、“入会”一类的活动悬为厉禁。但实际上，帮会势力早已渗透他的军队，他的长兄冯基道就是一个黑社会大佬，他手下第一战将张之江也是一名帮会分子。
冯玉祥利用基督教作为维系他的军队的基础。他要求全体官兵都受洗入教。这位大老粗不管三七二十一，用消防水龙头给他的官兵行受洗礼。但对于那些老实巴交的农家子弟来说，基督教不过是一个可以公开的帮会而已。