骑射”，被汉武帝认为大有李广遗风，特命他带八百名骑兵深入大漠侦查地形，胜利归来后被任命为骑都尉，指挥五千勇士，在酒泉、张掖一带布防。
天汉二年十月的秋天，汉武帝令贰师将军李广利率领三万铁骑从酒泉出发，征伐匈奴。此时的李陵正担任骑都尉，率领丹阳和楚地募集的五千善射之士，在酒泉、张掖一带教习射箭之术，以防备匈奴。
战役打响后，李陵主动要求率领五千步卒，出居延海，向北深入单于王庭，三十天后，李陵部队与匈奴八万铁骑相遇于浚稽山。李陵屯兵两山之间，下令以大车结为军营，出战时“前行持戟盾，后行持弓弩”，当匈奴军逼近时，“千弩俱发，应弦而倒”。获得首战胜利。匈奴调集援军，连续进攻，李陵以“连弩”射单于，使单于差点中箭。以一当十，连战连捷，十天之内共斩杀匈奴骑兵一万余人。按照事先的部署，他且战且退，一路将匈奴单于引向正南方的汉匈边界，在那里，将军路博德负责率军接应。
但是就在距离汉朝边塞遮虏障仅剩下一百多里的时候，汉军被匈奴阻断退路，弹尽粮绝，最后匈奴将汉军围困于山谷，万箭齐发，而汉军矢尽粮绝，只剩随身携带的短刀、车辐做武器的，无法有效还击。而就在此时，李陵苦等的援军却一直迟迟不至，眼看苦守无望，李陵只能选择绝死突围。
当时李陵仰天长叹约“复得数十矢，足以脱矣”，可惜上天没有给李陵翻盘的机会。子夜时分，李陵率领十几名壮士突围，被匈奴发现，数千名骑兵衔尾追击。突围战中，只有十几个人跟随，李陵的副将韩延年战死，最后关头，李陵大呼：“无面目报陛下!”于是放下武器投降了匈奴。
可以说，在前汉对抗匈奴的历史上，李陵以五千军士力抗匈奴八万骁勇之敌，坚持十余日，不可谓非奇迹，不可谓不尽力，然而李陵却最终没有实现其“吾不死，非壮士也”的诺言。
虽然浚稽山一役证明了李陵的军事才能，而最终的结局，却使他背上了“汉奸”的骂名，
得知李陵战败投降后，汉武帝大怒。群臣皆言李陵有罪，只有司马迁言道“陵事亲孝，与士信，常奋不顾身以殉国家之急。其素所畜积也，有国士之风。今举事一不幸，全躯保妻子之臣随而媒其短，诚可痛也！且陵提步卒不满五千，深戎马之地，抑数万之师，虏救死扶伤不暇，悉举引弓之民共攻围之。转斗千里，矢尽道穷，士张空拳，冒白刃，北首争死敌，得人之死力，虽古名将不过也。身虽陷败，然其所摧败亦足暴于天下。彼之不死