元狩四年春，与卫青各率5万骑过大漠（今蒙古高原大沙漠）进击匈奴。
霍去病出塞后深入2000余里，歼70443人，至此，匈奴左右贤王两只臂膀被彻底斩断，只剩下匈奴单于孤悬漠北，势力江河日下。
然后在狼居胥山祭天，在姑衍山祭地。
封狼居胥后，他继续率军深入追击匈奴，一直打到翰海（今俄罗斯贝尔加湖）而还。
更迁乌桓于辽东，监视匈奴。
此战后汉武帝增设大司马，霍去病、卫青皆任大司马，而且定下法令，让骠骑将军的官阶和俸禄同大将军相等。
霍去病用兵灵活，注重方略，不拘古法，用“变数”和“速度”打造自己的战略舞台，开创了对匈奴的新战法：长途奔袭，孤军深入（轻辎重),利用骑兵的高度机动性，以骑对骑，歼灭对手。
这个战法到了现代有了一个响亮的名字—闪电战。
他为国忘家，生平无一败绩，深得武帝信任，留下了“匈奴未灭，何以家为”的千古名句。
元狩六年（前117）病卒，年仅23岁