王干在军中学习如何更好地运用骑兵做战，可能因为家庭原因做不到像卫青那样的灵活，所以学到的并不是很好，对此王干认为自己可能适合做一员猛将，听从主将的命令就可以了，所以在卫青他们讨论如何作战的时候，王干主要学习了如何更好地对军队进行指挥，使得军队能够更好地按照自己的思想进行运动，达到自己的目标，使得自己能够快速的得到提高。而不是思考战略上的东西。对此卫青也看到了王干的思想及行动，但是卫青顾忌自己也不是主要将领，所以也就没有说什么。
建元六年，太皇太后驾崩，皇帝刘彻从而掌握了全部的军政大权，从而进行了更大规模的改革，在军事上加大了骑兵的编制，扩充到了十万之多，希望改变对匈奴的军事压力，在政治上进行了动员，希望朝廷勋贵都能支持对匈奴的作战，由于老将们都习惯于防守而不习惯于出击，所以皇帝刘彻也没有十分有效的办法进行改变，直到有一天，大行令王恢得知匈奴将大举进攻边城马邑，所以决定发三十万大军围困匈奴大军，其中有名将李广，韩安国等人，卫青由于是皇帝的羽林侍卫所以不能跟随出战，然而此战虎头蛇尾，当汉军隐蔽在峡谷当中的时候，匈奴军队发现了马邑城外景象十分蹊跷，于是就打下了一座塞外城堡，活捉了一名汉军，当得知汉军在此准备了三十万大军后，匈奴单于果断的退兵，匈奴单于回到王庭后十分愤怒于汉朝想要攻击他，所以召集匈奴贵族讨论如何对汉朝发动大规模进攻，在讨论会上，匈奴右贤王认为汉朝并没有打算和匈奴打大仗的想法，所以反对对汉朝全面开战，并认为匈奴国力不如汉朝，打持久战的话不利于匈奴的利益，左大都尉认为汉朝敢于对匈奴单于发动进攻，必须给予汉朝以颜色，所以支持大规模进攻汉朝，匈奴单于认为可以对其边城进行骚扰，使汉朝皇帝知道他的错误。惩罚汉朝的野心。
对汉朝皇帝刘彻来说，此次作战虽然失败，但是他了接到了军队的动员能力和将领的能力，效果还是有的，所以也并不是很沮丧，由此次失败，汉朝皇帝意识到了在国境线内和匈奴打仗是十分困难的，只有在广袤的草原上才能更好地打击匈奴，才能给与匈奴以重创。而要在塞外和匈奴作战就必须要有骑兵部队和熟悉骑兵作战的将领，但是汉朝的老将们并不习惯于在草原上作战，此次马邑之战就可以很好地反映了汉朝老将们的作战素质。只有培养会使用骑兵作战的将领才能解决匈奴的威胁。
于是皇帝刘彻进行了更大规模的军事改革，使用新将领，训练骑兵，重视骑兵的作战方法。尤其重视卫青等年轻将领的培养，要求他们学习匈奴骑兵作战的战术，经过近十年的军事政治上的改革，是汉朝的国力得到了巨大的提高。尤其是骑兵的使用，更使得汉朝对匈奴有了再大草原上追击的可能。军事上不断地改良马种，改革训练骑兵使用的武器战术等。
终于在元光六年，汉朝遭到了匈奴近乎全面宣战式的进攻，那一年匈奴左大都尉率领五万骑兵进攻上谷，成其胜利之师扫荡了下谷，对汉朝造成了极大地打击，彻底的激怒了皇帝刘彻，刘彻认为这是匈奴对汉朝发动大规模进攻的信号，是十分危险的信号，认为已经不打不行了，于是决定发兵五万至塞外主动寻找匈奴主力作战。元光六年春天，皇帝刘彻任命骠骑将军李广，前将军公孙熬，左将军公孙贺，以及车骑将军卫青各帅骑兵一万出长城寻找匈奴主力进行作战，韩安国为材官将军管理后勤。此次卫青能够得到独立的领兵机会，可见皇帝刘彻对其的期望。王干作为卫青的手下将领，也将跟随卫青出兵上谷，寻找匈奴主力决战。
卫青左统领的羽林侍卫也将和王干一起出征。作为皇帝亲自培养的羽林侍卫，卫青的压力十分大，多次寻找王干等谈论如何作战。王干认为这是我们第一次主动以骑兵方式出长城作战，以前没有这样的经验，所以我们要稳扎稳打，不能贸然进击损兵折将。卫青说“此次是我们汉军首次骑兵出击，应该到达长城外之后在寻找战机，不能事先谋划。王干也认可了卫青的意见。卫青统领一万骑兵到达上谷之后，发现上谷城中军民皆备匈奴杀害，军中诸将士十分愤怒，纷纷要求追击匈奴骑兵。卫青因为初次领兵作战，以前没有什么大的战功，怕不能服众，所以召集了军中诸将领进行了军前议事，上谷籍将领孙刚十分的愤怒，因此在朝廷没有下令出兵的情况下私下派出骑兵出塞抓了几个匈奴的小贵族。当听说卫青将要举行军前议事的时候，就当场向卫青说出了抓到的匈奴小贵族，可能从其口中得知匈奴的情况。几个士兵带着那个匈奴小贵族进入了军帐，卫青对其说“你知道匈奴单于的动向吗？知道我是谁吗？”匈奴小贵族听过翻译答曰“你不就是皇帝的小舅子卫青吗？我们大匈奴的前线将士都听过你的名字，绣花枕头嘛”翻译当时听到匈奴小贵族的答话，也十分的苦恼，脸上露出一股犹豫的表情，不知道应该怎么回答，但又不能不回答，于是就说“他说将军是皇帝的小舅子”王干听到此话，大喝一声“大胆，怎敢侮辱卫将军。”作势就要杀了匈奴小贵族。卫青说“王干，退下。"王干于是就站到了一边。卫青接着说“知道我就好，别死了还不知道是谁杀的。”遂下令把其拖出去开了。
卫青对军帐中的将领说“匈奴如此不在乎我，说明匈奴可能也不会相信我们会出长城主动找他们，这是我们的机会，我们要马上召集将士出战，出塞寻找匈奴作战。”军中诸将结应。次日早晨大军出动，卫青对王干说“沿途派出骑兵哨探，打探军情。'王干应了一声就去吩咐。经过近半天的路程，部队行进近两百里，在途中没有发现任何的匈奴骑兵，于是卫青对王干说”召集诸将军前议事。”王干应了一声就去召集。过了一会儿，诸将都到了，卫青拿着地图对诸将说“在行进两百里就到了匈奴的祭祖地龙城，目前我们还没有发现匈奴的骑兵，加快行进的话，傍晚应该能够赶到。诸位将军有什么看法。”王干等诸将都说好啊，可以在那吃个晚饭呀！于是就加快了进兵速度。