邙山之战后，高长恭的声望达到了顶峰，但也为他埋下了杀身之祸。北齐后主高纬是历史上有名的昏君，他性格懦弱，猜忌心极强，又宠信奸佞，对功高震主的大臣始终心存忌惮。
一次，高纬与高长恭闲聊，谈及邙山之战时，假意关切地说：”四哥这样冲进敌阵，万一有个三长两短，可怎么办啊？” 高长恭一时感动，脱口答道：“国事就是我们的家事，在战场上我根本来不及多想。” 这本是肺腑之言，却触动了高纬的敏感神经 ——“家事” 二字，在君主眼中无异于觊觎皇权的信号。
更让高纬不安的是，《兰陵王入阵曲》在民间广为流传，士兵们每次演唱时，都对高长恭赞不绝口。在高纬看来，一个宗室将领拥有如此高的威望，简直是对皇权的威胁。历史学者王怡辰指出：“高长恭之祸，始于邙山，成于声望。后主既无治国之才，又忌宗室之强，长恭之死，实属必然。”
此时的北齐朝堂，已经被奸佞小人把持。侍中祖珽、中常侍和士开等人嫉恨高长恭的战功与威望，不断在高纬面前进谗言，诬陷高长恭 “意图谋反”。高纬本就对高长恭心存猜忌，经这些人挑拨，更是杀意渐生。
高长恭并非没有察觉危险。他深知高氏家族的血腥历史，文宣帝高洋杀尽北魏宗室，孝昭帝高演杀废帝高殷，武成帝高湛杀南阳王高绰，宗室相残早已成常态。自己功高震主，又无强大外援，随时可能遭遇不测。
为了打消高纬的猜忌，高长恭开始采用 “自污” 的策略。定阳之战后，他代替段韶统率军队，却常常收取贿赂，聚敛财物。亲信尉相愿对此不解，问道：”大王受到朝廷重托，为何要如此贪心呢？” 高长恭沉默不语。尉相愿又说：”莫非是因为邙山之战立下大功，害怕功高震主，才故意做这些让人看不起的事？” 高长恭这才点头承认。
尉相愿却连连摇头：“大王此举大错特错！朝廷如果猜忌您，这些贪腐之事正好可以成为罪名，这不是躲避灾祸，而是招来灾祸啊！” 高长恭闻言大哭，急忙向尉相愿请教对策。尉相愿建议：“您已经立下赫赫战功，如今又打了胜仗，声望太高，最好的办法是假托有病，回家休养，不再过问朝政。”
高长恭听从了尉相愿的建议，开始频繁“生病”。武平三年（572 年），他借口 “面部生痈”，不再上朝；次年，朝廷准备对南陈用兵，高长恭担心被再次起用，竟然故意不医治病情，希望能彻底隐退。他曾叹息道：“我去年脸上长痈，现在为什么不发作呢？” 其内心的痛苦与无奈，可想而知。 高长恭的退让并未换来安宁。此时的北齐已是风雨飘摇：北周在宇文邕的治理下日益强大，不断出兵攻打北齐；国内则朝政腐败，民不聊生。高纬虽然昏庸，却也知道高长恭是难得的将才，既想利用他打仗，又怕他谋反，这种矛盾的心理最终转化为杀意。
更不幸的是，与高长恭并称 “北齐三杰” 的斛律光，在武平三年（572 年）被高纬以 “谋反” 罪名杀害。斛律光是北齐名将，一生征战无数，为北齐抵御北周立下汗马功劳，他的死让北齐失去了另一位 “守护神”，也让高长恭彻底陷入孤立无援的境地。
武平四年（573 年）五月，高纬终于下定决心除掉高长恭。他派使者徐之范携带毒酒，前往兰陵王府。
当使者宣读圣旨时，高长恭正在与王妃郑氏下棋。他接过毒酒，脸色平静得可怕。郑氏见状，急忙问道：“大王对国家忠心耿耿，从未有过二心，皇上怎么会赐毒酒呢？一定是有什么误会，您快去面见皇上解释啊！”
高长恭苦笑着摇了摇头，说：”皇上既然已经赐我毒酒，怎么还会再见我呢？” 他想起自己一生征战，为北齐出生入死，晋阳保卫战击退突厥，邙山之战解围洛阳，定阳之战生擒杨敷，可到头来，换来的却是一杯毒酒。他想起父亲高澄未竟的帝业，想起自己“母不详” 的尴尬身世，想起士兵们演唱《入阵曲》时的热烈场景，心中百感交集。据《北齐书》记载，高长恭临死前，将家中的财物全部赏赐给部下，与他们一一诀别。他对郑氏说：“我一生为国，今日却要含冤而死，只恨不能再为北齐效力了。” 随后，他举起毒酒，一饮而尽。
一代战神，就这样结束了自己短暂而传奇的一生，年仅 32 岁。
高长恭死后，高纬为掩人耳目，下旨追赠他为假黄钺、太师、太尉公、冀州刺史，谥号 “忠武”。”忠武” 是古代武将的最高谥号，诸葛亮、郭子仪等名将都曾获此殊荣，高纬此举，不过是自欺欺人罢了。
高长恭的死，是北齐由盛转衰的重要标志。《北史》评价道：”文襄诸子，咸有风骨。若使兰陵获全，未可量也。而终见诛翦，以至土崩，可为太息者矣。” 史学家蔡东藩也感叹：“长恭一死，亲王中又少一勇将了。自折手臂，亡在日前。” 果然，仅仅三年后，北周大军攻破邺城，北齐灭亡，高纬被擒杀，印证了 “自毁长城” 的悲剧。