高宗李治喜欢改年号。唐朝平定高丽这年，他又改年号为总章。
李治想去视察凉州（今甘肃境内）。大理少卿来法敏对李治说：
“凉州一带荒凉落后、萧条破旧，官署和民房顶上都蒙了一层灰黄色尘土。
建议皇上不去巡视。”
李治于是决定不去了。
总章二年冬天，李绩病倒了。
李绩弟弟李弼还在担任晋州刺史任期内。
李治传旨召还李弼：
“你回长安吧，担任司卫卿，这样便于照顾你哥哥李绩。”
躺在病床上的李绩见弟弟能陪伴他服侍他，心情好了不少。
李绩对李弼说：
“待我稍微恢复一下身体，咱摆上酒宴，我就能陪你吃几盏酒了。”
过了十几天，李绩恢复得能在屋内走两步，能坐在饭桌前吃饭了。
于是吩咐家人准备了一大桌酒菜，李绩李弼老哥弟，摆好两把椅子挨着，并肩坐在一起吃饭。
他俩儿子孙子也坐同桌拱卫着他俩一起吃喝。
大家欢快地喝酒吃菜，快到酒足能饱的时候，李绩对李弼说：
“我看见房玄龄和杜如晦他们两个人，一辈子勤勤恳恳，节俭朴素，辛苦撑起一家人的好光景。
以后因为他们生养的儿子不学好，不成器，房玄龄、杜如晦他们两个人死去，他们的家也覆灭得什么也没剩下。
他们都是迎娶了公主，家门荣耀的显赫人家，后因犯罪，全家老小流放岭南，又大都死在了岭南，几乎灭绝了门户。
弟弟啊，我的两个儿子、几个孙子今天全部托付给你了。
你替我好好盯住监督着他们。
如果发现他们言行不端正，结交坏人，你就把他们捶死揍扁，然后再告诉皇上。
别让世人笑话我和房玄龄、杜如晦他们两家人是一样的下场。
我死后你们装殓我，给我穿上普通老百姓的衣服当寿衣，只是在外层套上我上朝的官服。
如果我死了还有灵魂，我可以穿着上朝的那层官服去拜见两朝先帝。
你们给我办丧事千万不要太奢侈铺张，别花钱太多，简简单单就行了。
我的小妾们在我死后，愿意继续留在宅府上抚育她们孩子的，你们不要欺负她们，更不能赶她们走。
她们有愿意领着孩子离开的这个家的，也别阻拦。
如果你不听我的嘱咐，会招来灾祸，我死后也会被司法的人用鞭子抽烂尸身。”
李绩说完，眼角流下两行老泪。
李弼说：
“哥哥放心，弟弟已谨记在心。”
从那以后，李绩病情又一天天加重。
高宗李治和皇太子李弘派人送来中药汤。每天一送来，李绩就喝下。
家人想找名医来给李绩看病，李绩感慨地说：
“我本是山东曹州（今菏泽）一个农夫，荣幸地跟随了一个天命神龙(指李世民)，跟着他效力打天下,官位到了最高的三公。
如今我年龄活过了八十，还有什么不知足的呢？
人什么时候生，什么时候死，都由上天安排，不必想用医治和服药诊治去人为改变它。
只不过我承受恩宠，皇上送药来，我不敢不喝。
除此之外，不必再请医生来看病了。”
说完这些，李绩不再说话了。他每天闭着眼睛，短促费力地呼吸，没几天就死了。一代名将英魂，从此升天而去。
李绩平时重情重义，他老姐姐临死前那些天，李绩去老姐家里，守在老姐姐身边，亲自在厨房给姐姐煮米粥喝。
粥没喝放了一会凉了，李绩又端回厨房给姐把粥重新烧热。
老姐对李绩说：
“仆人婢女一大堆呢，弟弟何必劳累亲手去做？”
李绩说：
“如今姐姐你和我这个当弟弟的都老到七八十岁了。
我想常为姐姐煮粥喝，恐怕也煮不了几回了啊。”
李绩曾经自言自语说：
“我十二三岁时，是个无赖贼，见人就杀。
我十四五岁时，懂得点是非了，再当恶人有些难了，我只杀不好的人。
我十七八岁时，我是个隋朝的好反贼，只是上阵杀敌人。
二十岁我成为了大将，领兵作战打胜仗，是为了推翻昏恶的隋朝，建立一个好朝代，把老百姓从苦难中救出来。
每次出战之前，我都是先周密谋划。打了胜仗，功劳归属下将士们。
打仗得到金银财帛，我全部分给手下的将领和兵士。
所以人人作战不怕死，跟着我都拼尽了全力。”
李治听说李绩死去的噩耗，哭着对群臣们说：
“李绩对朝廷尽忠，对亲人仁孝。
他三朝为官，没有犯下过错，是国家栋梁忠臣。
我听说他的严格要求自己，不收受贿赂，不贪污钱财，不积存家产。
如今他死了，他家里也没存下钱财。应该从厚抚恤他的家人，算是对得起忠厚之臣。”
李治下令负责部门，多给他家送去金银绸缎。
追赠李绩为太尉，赐葬昭陵之侧。
下葬那天，李治登上未央宫故城，站在宫楼上望视送葬，望着灵车挥泪痛哭，扶着栏杆哭得直不起腰来。
太子李弘在送葬的人群里跟随送葬，他哭得很伤心，李绩的儿孙们看见太子李弘哭得情真意切，都很感动。
李绩儿子李震，继承爵位，终身担任桂州刺史。李震的儿子李敬业、李敬猷发生了什么异常情况，咱今后再说。后人叹李绩说：
攀龙附凤官列三台，
百战功成梁柱之才。
可惜生平错走一步，
依附武后结成祸胎。
李绩死后，李治又改年号为咸亨。这时唐朝西边乱起来了。