杨惟中，字彦诚，是弘州人。金朝末年的时候，他还是个孤苦无依的小孩子，就跟着金太宗了。太宗发现他读书厉害，而且胆识过人，非常器重他。
二十岁那年，杨惟中奉命出使西域三十多个国家，宣扬大金的国威，推广朝廷的政策，并且让那些国家都登记户口，纳入金朝的管辖。完成任务后回到国内，金太宗对他更是另眼相看，委以重任。
后来，金朝皇子完颜阔出兵攻打南宋，太宗就让杨惟中在军中负责中书省的事务。 在战争中，他们攻克了南宋的枣阳、光化等军，以及光州、随州、郢州、复州等州，还有襄阳、德安府。 这次战争中，他们俘获了不少南宋的名士，还把从洛阳、开封等地搜集来的书籍送回了燕京。 更令人瞩目的是，他们还建立了南宋大儒周敦颐的祠堂，修建了太极书院，并邀请赵复、王粹等儒士在那里讲学。 通过这些举措，杨惟中得以深入学习圣贤的学问，心里充满了想要用自己的学识来治理天下的豪情壮志。
之后，杨惟中被任命为中书令。金太宗去世后，太后临朝称制，杨惟中作为宰相，扛起了治理天下的重担。
定宗皇帝登基后，平阳路的官吏们都横行霸道，无法无天。皇帝下令让张惟中去查办，张惟中就把这些违法乱纪的官员都抓起来杀了。金国灭亡后，金国的将领武仙在邓州战败，剩下的金兵逃散到太原、真定一带，占据了大明川，还用金国的开兴年号，人数多达几万人，到处烧杀抢掠，祸害了好几千里地。朝廷组织各路军队去讨伐，都没能成功。张惟中亲自出马，晓之以理，动之以情，让他们的首领投降，剩下的喽啰也都被平定了。
宪宗皇帝即位后，世祖皇帝（忽必烈）当时还是太子，被派去镇守金莲川，还允许他开府，可以自己封官拜将。后来，朝廷在汴梁设立了河南道经略司，奏请张惟中担任经略使，负责在唐州、邓州、申州、裕州、嵩州、汝州、蔡州、息州、亳州、颍州这些地方屯田。当初金国灭亡的时候，朝廷任命监河桥万户刘福为河南道总管，这刘福贪婪、吝啬又残暴，压榨百姓，祸害老百姓二十多年。张惟中到了河南后，就召见刘福，让他听从指挥。刘福装病不肯来，张惟中就让人把一根大木棍放在座位上，再次派人去召见他，并让使者告诉刘福：“你不听命令，我就用军法处置你！”刘福没办法，只好带着几千人马护卫着来见张惟中。张惟中二话不说，拿起大木棍就把刘福打倒在地。几天后，刘福就死了，河南地区从此安定了。
张惟中后来被提升为陕右四川宣抚使。当时各路军队将领都骄横跋扈，欺压百姓，其中一个叫郭千户的更是恶贯满盈，他竟然杀害别人的丈夫，霸占人家的妻子。张惟中下令处死了郭千户，并将其尸体示众，关中地区这才安定下来。张惟中曾经对别人说：“我不是喜欢杀戮，而是国家法纪不严，导致这些坏人祸害百姓，百姓无处申冤，我就算不想杀他们，又能怎么办呢！”
己未年，世祖皇帝统率大军东征，奏请任命张惟中为江淮京湖南北路宣抚使，让他建立行台，提前出发，宣扬朝廷的恩德，蒙古和汉军的将领都听从他的节制。大军班师回朝后，张惟中在蔡州去世，享年五十五岁。中统二年，朝廷追封他为忠肃公。
