王伯胜是霸州文安人。他哥哥王伯顺在宫里当差，深受元世祖的宠信。因为哥哥的关系，王伯胜也得以进宫面圣，被安排在皇帝身边当侍卫。那时候王伯胜才十一岁，宽额头，大鼻子，长得特别精神。皇帝看着王伯顺说：“这孩子将来肯定比你强，就叫他伯胜吧！”
有一次，皇帝洗漱，水温正好，很舒服。皇帝问是谁打的热水，内侍李邦宁回答说是王伯胜。皇帝说：“这孩子将来一定能当大官，而且很会处理人际关系。”元至元二十五年，王伯胜跟随军队征讨乃颜，立下战功，被授予朝列大夫、拱卫直都指挥使的官职。元贞元年，皇帝赐给他金虎符，并晋升为嘉议大夫。成宗皇帝即位后，又晋升他为通议大夫。
起初，拱卫直隶教坊的士兵大多是市井无赖，冒名顶替进入侍卫队伍。王伯胜担任指挥使后，就全部招募良家子弟来替换他们。五年后，王伯胜跟随皇帝到上都，天上连续下了好几天雨。有一天晚上，他听到城西北方向传来像战鼓一样的声音。王伯胜带领一百名士兵出去查看，原来是洪水突然暴涨。他立即组织大家拿着工具，收集泥土、石头和毛毡，堵塞城门，又开挖沟渠泄洪，直到天亮才控制住洪水，百姓们都不知道发生了什么。丞相完泽把这件事报告给了皇帝，皇帝对王伯胜大加赞赏。
九年后，因为侍奉成宗皇帝生病，王伯胜得罪了安西王，被贬到宁大路当总管，他哥哥王伯顺也被贬为梁王的老师。武宗皇帝即位后，召回王伯胜，授予他通奉大夫、也可紥鲁花赤、刑部尚书的官职。至大二年，他升任右丞。第二年，又晋升为银青荣禄大夫、大都留守，兼任少府监。当初，大都的城墙是用土筑成的，每年都要用芦苇覆盖来防雨，时间长了土墙越来越结实，但维护费用也越来越高。王伯胜上奏朝廷，建议取消这种做法。
仁宗皇帝即位后，重新调整百官的品级，王伯胜被降职为资德大夫，不久又恢复了银青荣禄大夫的官职，并被任命为辽阳等处行中书省平章政事。辽阳省治所在懿州，那里情况很差，百姓不重视学习。王伯胜刚到任，就扩建了郡学，增加学生名额，并挑选优秀的老师来教书。以前，有客人来访，没有地方住，都住在百姓家里，百姓苦不堪言。王伯胜就选择空地修建了馆舍和马厩，又划拨一百顷的闲置田地，招募百姓耕种，用来供给馆舍的粮食。
有一年大旱，王伯胜斋戒祈祷，祈祷完毕就下雨了，人们称之为“平章雨”。廷祐二年，王伯胜被召回担任大都留守，辽阳百姓上书中书省，请求留下王伯胜，但没有得到批准，百姓们哭着送别他。三年后，他被特授为银青荣禄大夫。至治二年，他被赐予金虎符，授予武卫亲军都指挥使，兼任大都屯田事，仍兼任大都留守。他还奉命监修文武楼，兴建咸宁殿和太庙。泰定三年冬天，王伯胜因病去世。朝廷追赠他翊忠宣力保惠功臣、太保、金紫光禄大夫、上柱国的称号，追封蓟国公，谥号忠敏。
老大，一开始叫安童，后来官做到兵部尚书、南台治书侍御史，还当过宣徽院佥事。老二叫马儿，继承了父亲的爵位，当上了宣武将军，还做了武卫亲军都指挥使。孙子善果也继承了爵位。
大哥伯顺，官儿做到大司徒。
