开皇二十年（600年）六月，杨俊在秦王府过世，而文帝仅哭了数声而已。杨俊所有华丽奢侈的遗物，文帝下令全部烧掉，并命令送终的用具都一定要俭约，才能让后世效法。王府的幕僚请求立碑纪念，文帝说：“如果想要留名，记在一卷史书上也就够了，哪还需要用到石碑？如果子孙不能保存家业，以后石碑也不过是给人拿来做镇石而已。”

王妃崔氏因为对秦王下药的关系，下诏将她废掉并赐死。杨俊的长女永丰公主，才十二岁，为父丧相当哀痛，在丧期过后便从此吃素；甚至往后每当忌日，便痛哭流涕而不吃不喝。领兵的王延，相当忠心，在杨俊过世后，绝食数日，文帝便赐药与加官，但在杨俊下葬之日时，王延号泣而亡，文帝感叹之下将他葬在杨俊的墓旁。