一开始，金国的军队组织叫“合扎谋克”，合扎指的是亲军，因为是由皇帝的近亲带领的，所以这么称呼。贞元年间迁都后，又把太祖、辽王宗干、秦王宗翰的军队改称“合扎猛安”，叫做侍卫亲军，还专门设立了侍卫亲军司来管理他们。以前呢，都是从各支军队里挑选精壮的士兵组成护驾军，海陵王又把上京龙翔军改名叫神勇军。正隆二年准备南征的时候，就把神勇军撤销了，让他们去参加佥调（编制），然后从侍卫亲军四个猛安（以前只有太祖、辽王、秦王三个猛安，现在变成四个了，具体情况不清楚，难道太祖有两个猛安？）里选拔三千以下、一千六百人，骑兵叫龙翔军，步兵叫虎步军，作为宿卫部队。五年后，侍卫亲军司被撤销了，它的职权交给了大兴府，同时设立了左右骁骑军，也就是所谓的从驾军，都副指挥使分别隶属于点检司和宣徽院。
大定初年，亲军有四千人，到了大定二十二年，减少到三千五百人。上京也设置了守卫军队。这一年，尚书省上奏说：“上京既然设立了皇城提举官，也应该设置军队来守卫。”皇帝说：“可以设置四百五十人，马一百二十匹，分成三班轮换值守。以后我到上京的时候，就安排两班巡逻，每半年轮换一次。每人每天给钱五十文，米一升半，马匹供应草料，猛安谋克的官员可以挑选四十岁左右的人，士兵则挑选三十岁以上的人。”章宗承安四年，亲军人数增加到五千，后来又增加到六千。此外还有威捷军。承安年间又增加了签弩手一千人。挑选签弩手的标准是：先做一个标准的木杖，长六尺，竖起来作为标准。选取身高与木杖相等的人，能够拉开三石的弩，熟练地安装弓弦、解开弓弦，能够连续射出六箭都射中靶心，其中有两箭射中靶心内圈的。
还挑选亲军，选取身高五尺五寸、擅长骑射的人，猛安谋克把他们推荐给兵部，然后由点检司和宣徽院进行考核补录。还设置了护卫二百人，负责近侍皇帝并执掌兵器，从五品到七品官员的子孙，以及宗室成员、亲军和各部门的承应人员中，选取身高五尺六寸的人，进行考核补录。又设置了控鹤二百人，都是负责皇帝出入时的警卫人员。
大将府的称号是怎么来的呢？金朝收复燕云十六州的第二年十二月，也就是收国元年十二月，开始设立咸州军帅司，主要负责经略辽地，讨伐高永昌。同时，还设立了南路都统司，负责讨伐张觉。到了天辅五年，金朝攻打辽国，才有了内外诸军都统的名称。
因为当时奚族还没完全平定，所以又设立了奚路都统司，后来改成了六部路都统司，下辖遥辇九营，也就是九个猛安，加上上京和泰州，一共六个地方。每个都统司管辖五六万人马，此外还有渤海军的八个猛安。猛安之上是军帅，军帅之上是万户，万户之上是都统。不过，有时候也把军帅叫做猛安，而猛安又指的是直接管理猛安的人。
燕山攻克后，金朝效仿辽国的制度，在广宁府设立了枢密院，负责统领汉军。太宗天会元年，金朝把原来攻打辽国时设立的西南都统府，改成了西南、西北两路都统府。三年后，因为要攻打南宋，又把都统府改成了元帅府，设有元帅、左右副元帅、左右监军和左右都监。金朝的制度规定，都元帅必须由谙版孛极烈担任，通常都驻守不出战。六年后，金朝下令让两位元帅回朝镇守边疆。
各路都设立了兵马都总管府，州镇设节度使，边境州则设防御使。州府招募的射粮军、牢城军，每五百人设一个指挥使司，设指挥使，下设四个都，每个都设左右什将和承局押官。如果军队人数多余或不足，就与附近的指挥使司合并，实在不能合并的，三百人或二百人也可以设指挥使，一百人就只设军使。一百人以上设都，不到一百人就只设什将和承局管押官各一人。
天会十年，金朝把南京路都统司改名为东南路都统司，驻扎在东京，以震慑高丽。后来又在 大名府设立了统军司。到了海陵王天德二年八月，金朝把各京兵马都部署司改为了本路都总管府。九月，取消了大名统军司，并在山西、河南、陕西三路设立了统军司。元帅府的都监和监军被任命为使，分管全国的军队。同时，乌古迪烈路统军司改名为招讨司，婆速路统军司改名为总管府。
天德三年，元帅府改为了枢密院，取消了万户的官职。诏书说：“太祖开国，根据当时的形势设立官职，能统领军队的人就授予万户的官职，其次是千户和谋克。当时官职赏赐制度还没确定，城池还没完全攻下，设立世袭的万户官职，只是权宜之计，不是长久之策。现在子孙相继继承，掌握的兵权很多，和留守总管差不多，甚至权力还超过他们。所以应该取消这个官职。如果以前没有千户官职的地方，可以考虑增设。国初赐予国姓的，如果他们的子孙，都要恢复原来的姓氏。”正隆末年，又把陕西统军司升格为都统府。大定五年，又取消了都统府，降为统军司。随后又设立了两个招讨司，加上以前的，一共三个，用来镇守边疆。东北路招讨司，最初设立在乌古迪烈部，后来迁到泰州。泰和年间，因为距离边境还有三百里，宗浩就下令在金山设立分司。西北路招讨司设立在应州，西南路招讨司设立在桓州，由朝廷重臣和精通兵法的官员担任使者，修筑城池和壕沟，长期驻守。枢密院每次出兵，就改名为元帅府，撤兵后又恢复为枢密院。
宣宗贞祐三年，征调代州驻军五千人，根据胥鼎的建议，把这五千人留在代州，以保护平阳。兴定二年，招募河南、陕西的弩手军二千人组成一支军队，赐名为“威勇军”。南迁后，金朝在河北封了九个公爵，并授权他们指挥军队，沿黄河的各城都设立了行枢密院元帅府，规模大的称为“便宜”，规模小的称为“从宜”。元光年间，招募义军，三十人为一谋克，五个谋克为一千户，四个千户为一万户，四个万户为一副统，两个副统为一都统，这又恢复了国初的名称。但是，还另外设立了一个总领提控，所以当时都称元帅为总领。
金朝初期，因为辽朝留下了一些没有蚊虫，水草丰美的牧场，所以金朝就在这些地方设立了群牧场。“抹”这个词就是指这种地方。天德年间，金朝在这些地方设立了迪河斡朵、斡里保、蒲速斡、燕恩、兀者五个群牧场，这些名字都是沿用辽朝旧称，每个牧场都设置了管理人员。
金朝还从各族人民中挑选家境富裕、人口众多的人家，以及官员子弟、猛安谋克蒲辇军和官吏家里的剩余人口以及奴隶，让他们管理牧场，这些人被称为“群子”。他们负责放牧马、骆驼、牛、羊，并且根据牲畜的繁殖和损耗情况进行奖惩。后来，群牧场的数量逐渐增加到九个。后来契丹发生叛乱，五个牧场被毁，剩下的四个牧场里，只剩下马一千多匹，牛二百八十多头，羊八百六十多只，骆驼九十多峰。
世宗时期，金朝重新设立了七个牧场：特满、忒满（在抚州）、斡睹只、蒲速碗（蒲速碗原本是斡睹只的一部分，大定七年分出来设立的，承安三年改名为板底因乌鲁古）、瓯里本（承安三年改名为乌鲜乌鲁古，乌鲁古的意思是滋生繁衍）、合鲁碗、耶卢碗（在武平县、临潢、泰州一带）。大定二十年三月，金朝对群牧场的官员、详稳脱朵、知把以及群牧人员的牲畜繁殖损耗的奖惩制度进行了修订。大定二十一年，金朝下令，所有牧场里三岁大的马匹要交给女真人放牧，牛可以借给百姓耕地，也可以让百姓养羊，或者用来救济贫困户。当时还派人检查牲畜的数量，如果数量不足，就惩罚相关官员，并让牧人赔偿损失，如果牧人隐瞒实情，监察人员查实后就会处罚。经过多年的发展，到二十八年，牲畜数量已经增加到：马四十七万匹，牛十三万头，羊八十七万只，骆驼四千峰。
明昌五年，金朝将一些战马分发到中都、西京、河北东路、西路，让当地百姓根据自身财力分担饲养。还规定，其他地区的百姓养的马如果死了，可以在上述四个地区得到替换，如果百姓想用马，必须上交官府。这就是金朝的马政。但是，每当发生大的战役，金朝总是向百姓征收马匹，并征用官府剩余的马匹，以供给军队使用。
宣宗兴定元年，金朝制定了民间收缴溃军遗失马匹的办法，以及向官府上交马匹的补偿标准：“上等马一匹，赏银五十两，中等马和下等马依次递减十两。不愿意接受银两补偿的，上等马两匹抵一个官职，任命为杂班官员；中等马三匹，下等马四匹，以此类推。命令下达十天后必须上报，如果隐瞒或杀害马匹，一律处死。” 金朝还派官员向百姓征收马匹，并设立了奖励制度：上交马匹五百匹以上赏赐一千贯钱，一千匹以上授予一个官职，两千匹以上授予两个官职。
公元1140年，金熙宗下令每年给辽东的戍边士兵发放不同数量的绸缎。
到了公元1158年，金世宗下令河南、陕西的统军司和虞候司，以及顺德军的官兵，都增加粮食和俸禄的供应。公元1160年，准备南征的时候，朝廷在京城用一万匹绢换取了一万件棉衣和护膝，给军队发放。
公元1163年，金世宗南征，军队每年需要一千万贯钱，但是官府只有两百万贯，剩下的钱只能从官民百姓那里筹措，这就是军队经费来源的由来。当时有人建议，效仿宋朝和齐朝的旧例，在山东、河南、陕西等地，让州县的官吏和弓箭手去民间查验赋税，平均摊派钱款，叫做“免役”，用这些钱来供养军队。后来，经过调查统计上报后，朝廷取消了弓箭手的钱款征收，但是官吏的钱款仍然照旧征收。
公元1166年六月，元帅府请求拨款支付军费，皇帝说：“元帅府花钱没个度，总是向百姓摊派，这不是朕的本意。你们应该把军队实际支出和各路转运司实际缺额详细地报上来。”公元1170年四月，下令在德顺州修建营房，安置驻军。公元1177年七月，每年赏赐三万张羊皮给西北边境的戍边士兵。
公元1183年，因为军费开支巨大，有人请求对全国的物力进行调查，平均征收军费。计划效仿黄河夫役钱的办法，征收军费，根据各路新登记的物力，每贯征收四贯钱，西京、北京、辽东路每贯征收两贯钱，临潢、全州免征。考虑到期限太长，最后决定改为半年内分三次缴纳。
河南、陕西、山东这些地方，给老兵发放退休金的标准是这样的：老千户，服役十年以上的，赏银五十两，绢三十匹；服役不到十年的，就按十年以上谋克的标准发放。谋克十年以上的，赏银四十两，绢二十五匹；不到十年的，赏银三十两，绢二十匹。蒲辇十年以上的，赏银三十两，绢二十匹；不到十年的，赏银二十两，绢十五匹。至于马步正军、阿里喜这些人，不管服役多少年，退休后，正军赏银十五两，绢十匹；阿里喜、打鼓的、吹笛的、伙房的这些人，都赏银八两，绢五匹。三虞候千户，十年以上的，赏银四十两，绢二十五匹；不到十年的，赏银三十两，绢二十匹。谋克服役二十年以上，赏银五十两，绢三十匹；十年以上，赏银三十两，绢二十匹；不到十年的，赏银十两，绢十五匹。蒲辇十年以上的，赏银二十两，绢十五匹；不到十年的，赏银十五两，绢十匹。正军、阿里喜这些人，不管服役多少年，退休后，正军赏银十两，绢七匹；阿里喜、打鼓的、吹笛的、伙房的这些人，都赏银五两，绢四匹。
北方边防的万户、千户、谋克等，如果立过战功或者年老退休，都有相应的赏赐（升官按照吏部规定）。正千户管辖万户，如果工作十五年以上，升两级，到从五品；不到十五年，年老退休，升一级，到正六品；如果服役十年以下，升一级，赏银绢六十两匹。正谋克管辖万户，工作十五年以上，升两级，到正六品；不到十五年，年老退休，升一级，到正七品；如果服役十年以下，升一级，赏银绢五十两匹。正千户管辖千户，工作二十年以上，升一级，到正六品；不到二十年，年老退休，升一级，到正七品；如果服役十年以下，升一级，赏银绢四十两匹。正谋克管辖千户以下的，就按河南、陕西的标准执行。
镇防军每年都要进行射箭考核，射箭成绩突出者，一等奖赏银四两；特别优秀的，赏银十两和一个马盂。要是被选入武卫军，带着家人进京的，每人每天发放六口粮，马匹每天发放四匹的草料。
招募的士兵，月例的物品是这样的：边防驻军的士兵，每人每月发放五十贯钱、十匹绢。军工，中等水平的每月五十贯钱、五匹绢，低等水平的每月四十贯钱、四匹绢。黄河埽兵每月三十贯钱、五匹绢；负责射粮、沟渠等处的埽兵和水手，每月二十贯钱、二匹绢；普通士兵每月十贯钱、一匹绢。
凡是射粮军的指挥使和黄河、沁河埽兵的指挥使，每月发放七贯钱、七石粮食、六匹绢；军使每月六贯钱、六石粮食、六匹绢；什长每月二贯钱、三石粮食；春衣的钱粮是五贯，秋衣的钱粮是十贯。承局押官每月一贯五百文钱、二石粮食，春衣五贯，秋衣七贯。牢城和普通士兵每月八百文钱、二石粮食，春衣四贯，秋衣六贯。边防驻军请求的给养和射粮军相同。
河南、陕西、山东三路统军司镇防的甲军、马军，猛安每月八贯钱、五石二斗米、八匹绢、六匹马的草料；谋克每月六贯钱、二石八斗米、六匹绢、五匹马的草料；蒲辇每月四贯钱、一石七斗米、五匹绢、四匹马的草料；正军每月二贯钱、一石五斗米、四匹绢、十五两棉花、两匹马的草料；阿里喜和其他人每月一贯五百文钱、七斗米、三匹绢、十两棉花。步兵，猛安配发两匹马和马料，谋克配发一匹马和马料。每匹马每天给一束草料、五升粮食，到了春天野外有青草了，马就可以自己吃草了，就不用再发了，只有猛安的役马七十二匹，四季都要供应。另外规定，河南、山东、河东三路每年发放五个月的给养，陕西路发放六个月。镇防军购买马匹的钱，河南路正军每匹五百文，阿里喜和其他人每匹三百文；陕西、山东路正军每匹三百文，阿里喜和其他人每匹二百文。
各屯田被差遣以及边境驻扎捉杀敌人的军队，猛安每月六贯钱、一石八斗米、五匹马的草料；谋克每月四贯钱、一石二斗米、三匹马的草料；蒲辇每月二贯钱、六斗米、二匹马的草料；正军每月一贯五百文钱、四斗米、一匹马的草料；阿里喜和其他人每月一贯钱、四斗米、一匹马的草料。德顺军指挥使每月六贯钱、二石八斗米、六匹绢、三匹马的草料；军使和什长每月四贯钱、一石七斗米、五匹绢，两匹马的草料；长行每月二贯钱、一石五斗米、四匹绢、十五两棉花，一匹马的草料；奚军谋克每月一贯五百文钱、一石五斗米、春秋各一匹绸绢，三匹马的草料；蒲辇每月一贯钱、二石七斗米、绸绢同上，二匹马的草料；长行每月一贯钱、一石八斗米、绸绢同上，一匹马的草料。北边临潢等地永驻军队，千户每月八贯钱、五石二斗米、八匹绢，六匹马的草料；步兵两匹马的草料，五顷地；谋克每月六贯钱、二石八斗米、六匹绢，五匹马的草料，四顷地；蒲辇每月四贯钱、一石七斗米、五匹绢，四匹马的草料，三顷地；正军每月二贯钱、一石四斗五升米、四匹绢、十五两棉花，两匹马的草料，二顷地；阿里喜每月一贯五百文钱、七斗米、三匹绢、十两棉花，一顷地；旗鼓司的人和阿里喜相同；交替的军队每月二贯钱、四斗米；阿里喜每月一贯五百文钱、四斗米。
上京汉军，千户每月三贯钱、四石粮食、八匹绢、四匹马的草料；谋克每月二贯五百文钱、一石粮食、六匹绢、二匹马的草料；正军每月二贯钱、九斗五升米、四匹绢。上京路永驻军队，所授官职：千户每月十五贯钱、十五石粮食、十匹绢、二十两棉花、三匹马的草料；谋克每月六贯钱、二石八斗米、六匹绢、二匹马的草料；正军每月二贯五百文钱、一石二斗米、四匹绢、十五两棉花、一匹马的草料；阿里喜和其他人每月二贯钱、一石二斗米、四匹绢、十五两棉花。所有北边永驻军队，每月补买马匹的钱，每匹四百文，其他人每匹三百文。
贞祐三年，军前临时差遣的官员和掌管军队的官员，在粮草和马料上弄虚作假，侵占职务和役使，都没有实际人数；又有一些已经任职或遥授官职的人，已经领取俸禄，却和没有职务的人一样领取券粮，所以当时有人建议裁减人员，减少发放的数额，等到征战的时候再全部发放。到了兴定二年，彰化军节度使张行信说：“一个士兵服役，全家都领取供给，是为了感动士兵的心，让他们为国家尽力啊！至于那些没有当兵的人家，也没有成年男子，他们的妻女却也领取供给，这是什么道理呢？”五年，京南行三司官石抹斡鲁说：“京南、东、西三路现有的屯田军户，老幼四十万口，每年花费粮食一百四十多万石，都是吃空饷，这不是好办法。”这话记载在《田制》里。各屯田军人，如果被差遣去防卫或押送，每天发放一百五十文钱。看管孝宁宫的人，每月每人发放五斗米、一车柴、春秋粗布衣料各一段、秋绢二匹、棉花十五两。黄院子年满的人，从原来的钱粮中拿出三分之一，发放一贯钱和一石粮食养老。
