原来，汉王撤退到荥阳后，对项王的骑兵印象极为深刻。彭城之战，他吃尽了项王骑兵的苦头，同时也对组建自己的骑兵队伍产生浓厚的兴趣。于是，下令将汉军中的骑兵全部集中起来，组建一支骑兵劲旅。
说起骑兵，先决条件就是要有战马。不要忘了，秦的祖先是养马的好手，就是通过养马发家致富的。秦军的骑兵哪怕对匈奴都具有强大的威慑力。当时河套平原牢牢控制在秦国手中，蒙恬大将驻军此地，匈奴不敢越雷池半步，就是因为秦军有着强大的骑兵军团，根本不怵匈奴。
那个时期，战马基本产于西北和北部地区。主要产战马的大概就是秦国和赵国，还有部分产自燕国。因而，秦国的战马本来就多，骑兵也多。这些都是现成的，只是汉王没有将骑兵集中使用，而是分散到各军中。
现在，汉王一道命令，战马和骑兵很快就统到了一起。当然，骑兵几乎都是秦人，连推荐上来的骑兵首领也是秦人。
当时被推荐到骑兵统领的有两个人，一个叫李必，一个叫骆甲。汉王急着尽快组建骑兵军，就想直接任命这两个人为统领，谁知他们坚决推辞，不敢就任。
他们对汉王说：“我们都是秦人，恐怕得不到汉军的信任，希望大王在左右亲信中选择善于骑射的将军来统领这支骑兵，我们愿意尽力辅助他。”
这两个人考虑的不无道理，当时掌握军队的将领左右横跳的人多如牛毛，不是自己的亲信，辛辛苦苦组建的大军，随时都会背叛自己，或者自立门户去了。
哪怕就是亲信，好比武臣以及武臣后的韩广、李良等，都不一定靠得住。汉王想想也对，于是将自己身边的亲信郎中令灌婴任命为骑将，李必和骆甲被任命为左右校尉，协助灌婴。
灌婴是睢阳县（今河南省商丘市睢阳区）人，入伍前以贩卖丝织品为生。项梁战败身亡后，当时还是沛公的汉王退守砀郡，灌婴就是在那时候开始跟随汉王的。
灌婴当时的身份是中涓，也就是在汉王身边打打杂，混口饭吃。后来跟随汉王在成武县打败了东郡郡尉的军队，在杠里打败了驻守的秦军，因为作战勇猛，被赐予七大夫的爵位。
在汉王西征途中，参与了开封、曲遇之战，因战功被赐执帛爵位。后来定南阳、破武关、战蓝田一直打到灞上，被升为执珪的爵位。
汉王入主汉中后，拜灌婴为郎中之职。继而又随汉王进军汉中，十月间，又任中谒者（汉王传令官）。随汉王平定了三秦，攻取了栎阳，降服了塞王