两年后，也就是公元前121年，武帝下了命令：派霍去病率一万骑兵，出征河西走廊，讨伐匈奴的浑邪王和休屠王部。这一年，霍去病刚满十九岁，已经成了能独当一面的大将。
霍去病率一万骑兵从陇西出发，一路上翻山越岭，先是翻过了海拔三千多米的乌鞘岭，又穿过了焉支山脚下的草原。六天之内，霍去病带着部队转战五个匈奴部落——遇到那些愿意投降的部落，他就好言安抚；遇到那些拒不投降的，他也不纠缠，直接绕过去，专心寻找浑邪王和休屠王的主力。
终于，在焉支山脚下的一片开阔地，他们遇到了浑邪王和休屠王的部队。那时候，浑邪王和休屠王正带着几万人在草原上放牧，见汉军来了，赶紧组织士兵列阵。浑邪王骑着一匹黑马，在阵前大喊：“霍去病！你小子敢来河西撒野，今天我就让你有来无回！”
霍去病也不答话，只是把长枪一举，大喊一声：“兄弟们，杀！”话音未落，他率先冲了出去。他银甲白袍，在阳光下格外显眼，匈奴兵见了，都以为是天神下凡，吓得往后退了几步。
汉军将士见主将如此英勇，也个个奋勇，跟着他往前冲。浑邪王和休屠王没想到汉军这么勇猛，赶紧下令撤退，可汉军哪里肯放过他们？一路追着他们打，从焉支山脚下追到了胭脂河畔。
这一战，汉军斩杀了匈奴的折兰王、卢侯王，还俘虏了浑邪王的儿子，缴获了休屠王用来祭天的金人。那金人有一丈多高，纯金打造，是匈奴人的圣物，匈奴人每年都要在金人面前祭拜，祈求上天保佑。现在金人被夺，休屠王痛哭失声，说：“完了！咱们的圣物没了，上天不会保佑咱们了！”
等霍去病带着部队凯旋，把金人送到长安时，武帝看着那个金灿灿的金人，又看了看风尘仆仆却依旧精神抖擞的霍去病，高兴地说：“去病啊，你真是朕的福星！朕要再加封你食邑两千户，还要赏你一百匹好马，一百件锦缎！”霍去病赶紧跪下谢恩，说：“陛下，这都是将士们的功劳，臣不敢独自领赏。”武帝听了，更觉得他谦虚懂事，对他越发器重。
可仅仅过了三个月，霍去病又要出征了。这一次，武帝让他和公孙敖分兵两路，霍去病从北地出发，公孙敖从陇西出发，约定在祁连山会师，一起讨伐匈奴。
可公孙敖运气不好，他带着部队走进了沙漠，偏偏又遇到了沙尘暴，漫天黄沙把天遮得漆黑，士兵们连方向都辨不清，最后迷了路，迟迟没能赶到祁连山。霍去病在祁连山脚下等了两天，眼看粮草就要断了，士兵们也开始着急——有的说：“将军，咱们还是先回去吧，等公孙将军来了再说。”有的说：“是啊，没了粮草，咱们怎么打仗啊？”
霍去病却很冷静，他说：“不行！咱们不能回去！陛下让咱们来收复河西，要是就这么回去，怎么向陛下交代？怎么向边地的百姓交代？公孙将军没来，咱们自己打！”他让人清点了一下粮草，又看了看地图，说：“咱们沿着弱水往西北走，穿过居延泽，从后面绕到匈奴人的大营，打他们个措手不及！”
居延泽是一片大沼泽，环境非常恶劣，经过艰苦的行军，霍去病的军队悄悄摸到了祁连山脚下的匈奴大营。这时候，浑邪王和休屠王以为汉军还在等公孙敖，根本没防备，士兵们有的在放牧，有的在喝酒，有的甚至在帐篷里睡觉。霍去病一看时机到了，就下令：“冲！”
汉军将士像潮水一样冲进匈奴大营，匈奴兵慌了手脚，有的连衣服都没穿就跑，有的拿着刀乱砍，可根本不是汉军的对手。浑邪王和休屠王想组织抵抗，可士兵们早就乱了阵脚，根本不听他们的指挥。霍去病骑着马，在营里来回冲杀，他看到休屠王想跑，就追了上去，长枪一挥，就把休屠王的马腿砍断了，休屠王从马上摔下来，被汉军捆了起来。
浑邪王见休屠王被抓，吓得魂都没了，他带着几个亲信，骑着马往漠北跑，可霍去病早就安排了人在后面堵截，没跑多远，就被汉军拦住了。浑邪王没办法，只能下马投降，说：“将军饶命！我愿意带着我的部众投降大汉！”
小主，
这一战，汉军杀了三万多匈奴兵，俘虏了五王、五王母，还有单于的阏氏、王子五十九人，相国、将军等官员六十多人。经此两战，河西走廊的匈奴彻底被打垮了，浑邪王后来带着四万部众投降汉朝，武帝在河西设了酒泉、武威、张掖、敦煌四郡——酒泉，就是因为霍去病把武帝赐的美酒倒入泉水中，让全军将士一起喝而得名；武威，是为了彰显大汉的武功军威；张掖，是“断匈奴之臂，张中国之掖”的意思；敦煌，是“盛大辉煌”的意思。
从此，河西走廊正式归入大汉版图，丝绸之路的大门，也从这里打开了——中原的丝绸、茶叶、瓷器，通过河西走廊传到西域；西域的葡萄、苜蓿、胡萝卜，也通过河西走廊传到中原。而这一切，都离不开霍去病的功劳。
后来，匈奴人唱了一首歌，歌里唱道：“失我焉支山，令我妇女无颜色；失我祁连山，使我六畜不蕃息。”焉支山产胭脂，匈奴女人用焉支山的胭脂化妆，没了焉支山，女人就没了化妆品；祁连山水草丰美，是匈奴放牧的好地方，没了祁连山，牛羊就没法繁殖。这首歌，既是匈奴人的悲歌，也是霍去病的赞歌！
河西之战后，匈奴虽然丢了河西走廊，可单于的主力还在漠北草原，依旧想着南下报仇。他们在漠北集结了十几万大军，时不时派小股部队南下骚扰，边地的百姓又开始不得安宁。武帝一看，索性一不做二不休，在公元前119年，派卫青和霍去病各率五万骑兵，几十万步兵跟着，发动了漠北之战——这是汉朝对匈奴最大规模的一次进攻，目标就是彻底消灭匈奴主力，让匈奴再也不敢南下。
出发前，武帝亲自到城外送行。他赐给卫青和霍去病每人一杯美酒，说：“两位将军，朕等着你们凯旋！回来为你们举行庆功宴！”卫青和霍去病跪下谢恩，说：“臣定不辱使命！”
霍去病这一路，走的是东路，对付的是匈奴左贤王部——左贤王是单于的弟弟，手下有七万精锐，是匈奴最能打的部队，而且他盘踞在漠北草原深处，地势险要，粮草充足，想打败他，并不简单。