张衡字建平，河内人。

　　祖父张嶷，西魏河阳太守。

　　父亲张光，北周万州刺史。

　　张衡幼怀大志，有鲠直之风。

　　十五岁，到太学学习。

　　他用心学习，认真研究，被同辈人所推许。

　　周武帝遭太后之丧，却与左右出去打猎。

　　张衡免冠露发，抓住武帝的坐骑，直言劝谏。

　　武帝嘉奖了他，赐他衣服一袭、良马一匹，提拔他当汉王侍读。

　　张衡又到沈重那里学习《三礼》，略略推究大意。

　　累次升迁，到任掌朝大夫。

　　隋高祖受禅登基后，拜授他为司门侍郎。

　　到晋王杨广为河北行台时，张衡历任刑部、度支二曹郎。

　　后因河北行台废置，授他为并州总管掾。

　　晋王杨广转而镇守扬州后，张衡又当他的总管掾。

　　晋王很亲重他。

　　张衡也尽忠竭力侍奉他。

　　夺太子之位的计谋，大多为张衡所提出。

　　因母丧离职，一年多后，重新作官，当扬州总管司马，赐缣采三百段。

　　开皇中，熙州人李英林聚众造反，设置文武百官。

　　朝廷以张衡为行军总管，率领步兵、骑兵五万人讨伐平定叛军。

　　授为开府，赐奴婢一百三十口，缣采五百段，另加金银和牲畜。

　　晋王为皇太子后，授张衡为右庶子，兼任给事黄门侍郎。

　　炀帝继位，他任给事黄门侍郎，升任银青光禄大夫，不久任御史大夫，很被炀帝亲近看重。

　　大业三年(607)，炀帝到榆林郡后，回到太原，对张衡说：“我想到你家里去，你为我作东道主吧。”张衡于是赶到河内，与张家的人准备好牛肉美酒。

　　炀帝上太行山，开辟直路九十里，以到他家里。

　　炀帝很喜欢那里的山泉，留下来饮宴三天，因而对张衡说：“以前随先皇帝拜谒太行山的时候，途经洛阳，看到这里，深深遗憾不得相访，不料今日得遂夙愿。”张衡拜伏于地，谢谢皇上，并奉杯敬祝皇上。

　　炀帝更高兴，赐他住宅旁的田地三十顷，良马一匹，金带，缣采六百段，衣服一袭，御用食器一具。

　　张衡推辞，炀帝说：“天子到了哪里，之所以叫‘幸’，就是因为这。

　　不必推辞了。”张衡又给炀帝献食，炀帝下令赐给公卿，一直到卫士们，无不沾光。

　　张衡因是炀帝当藩王时的故交，恩宠无人可比，很有些骄贵。

　　次年，炀帝到汾阳宫，宴请随从官吏，特赐绢帛五百匹。

　　当时炀帝想扩建汾阳宫，让张衡和纪弘整画好图纸奏上。

　　张衡借机进谏说：“这几年劳役繁多，百姓疲惫，请您留点神，稍稍少搞点这类事。”炀帝心里很不舒服。

　　炀帝曾看着张衡，对侍臣们说：“张衡自以为因为他的计谋，才让我有天下。”当时齐王杨..失爱于炀帝，炀帝秘密让人找杨..的过失。

　　有人告张衡违反制度，将伊阙令皇甫诩带到汾阳宫。

　　又说以前炀帝到涿郡以及祭祠恒岳时，那些来谒见的父老乡亲，衣冠大多不整。

　　炀帝怪罪张衡，身为司法官，不能检举处理这些问题，让他出京当榆林太守。

　　次年，炀帝又到汾阳宫，张衡正在督促劳役修筑楼烦城，因而拜见炀帝。

　　炀帝厌恶张衡没有消瘦，以为他不想过失，因此对张衡说：“你长得很肥，应暂且回到郡里去。”张衡又到榆林郡去。

　　继而令张衡监督修江都宫的劳役。

　　有人到张衡那里告监修江都宫的人，张衡不为他处理，却把状纸交给那个监工，这个人吃了监工更大的亏。

　　礼部尚书杨玄感出使到江都，这个人到玄感处喊冤。

　　玄感自然认为张衡的作法不对。

　　到与张衡相见时，玄感又没说什么。

　　张衡又先对玄感说：“薛道衡真是被冤死的。”玄感把这些事都报告给了炀帝。

　　江都丞王世充又奏张衡频频减少劳役的饭食。

　　炀帝于是发怒，把张衡关起来，送到江都市，将要杀他，过了很久才放他，除名为民，放他回老家乡里。

　　炀帝常令亲信窥探张衡在作些什么。

　　大业八年(612)，炀帝从辽东回到京都，张衡的小妾说他心怀怨恨，诽谤朝政，炀帝竟然赐他在家里自尽。

　　他临死时大声说：“我为世人作了什么好事哦，还想久活！”监督行刑的塞耳不敢听，下令杀了他。

　　义宁中(617)，因其死于无辜，追赠他为大将军、南阳郡公。

　　谥号叫“忠”。

　　有子叫张希玄。