天汉二年（前99年）秋，汉武帝遣贰师将军李广利带骑兵三万出征匈奴，在天山与右贤王相遇、战斗。汉武帝在武台召见李陵，令他为李广利军监护辎重。李陵辞谢，并主动请缨率所部独立成军，牵制匈奴军队，以辅助李广利的正面作战。武帝应允，因为战马不足，所以李陵只能将步兵出征。
李陵率五千名弓箭手从居延北行军一个月，在浚稽山与且鞮侯单于的三万骑兵遭遇，匈奴军将汉军围在两山之间。汉军以辎重车为营，布阵于营外，前列士兵持戟盾，后列士兵持弓箭。匈奴见汉军人少，便向汉军进攻，结果遭到汉军千弩急射，匈奴兵应弦而倒，被迫退走上山，汉军追击，杀数千人。单于大惊，急调左右部八万余骑攻打李陵，李陵且战且退，士兵伤重者卧于车上，伤轻者推车，再轻者持兵器搏战。李陵说：“吾士气少衰而鼓不起者，何也？军中岂有女子乎？”（《汉书·李广苏建传》）原来刚出征时，一些关东盗贼的妻子因迁徙而随军，为士卒妻妇，藏于车中，后被李陵发现，全部处斩。第二日再战，斩首三千余级。
行十余日，抵一大泽中，泽中多芦苇，匈奴顺风放火，汉军亦纵火，预先烧周围的芦草以自救。退至某山，单于派兵攻击，李陵与匈奴兵步战于树林中，斩杀数千人。又发连弩射单于，单于逃走。单于见李陵部卒勇锐，久战不下，又渐近汉塞，便问部下：“此汉精兵，击之不能下，日夜引吾南近塞，得毋有伏兵乎？”诸将说：“单于自将数万骑击汉数千人不能灭，后无以复使边臣，令汉益轻匈奴。”于是再战。
当时，两军一日战数十次，汉军又伤杀匈奴二千余人。匈奴见形势对已不利，便想退兵。这时汉军军侯管敢被校尉侮辱，气愤之下投降匈奴，说：“陵军无后救，射矢且尽，独将军麾下及成安侯校各八百人为前行，以黄与白为帜，当使精骑射之即破矣。”(《汉书·李广苏建传》)单于大喜，于是便派骑兵合攻汉军，并大声疾呼：“李陵、韩延年趣降！”（《汉书·李广苏建传》）汉军在谷中，匈奴在山上，四面对射，矢如雨下。汉军南撤，未至鞮汗山，一日五十万矢皆尽，即弃而去。此时，汉军尚有三千余人，以短刀，车辐为武器，退至一峡谷内，被匈奴阻断后路。单于隐藏在汉军身后，在角落里向汉军投石，汉军多数战死，无法前行。
黄昏后，李陵穿便衣独步出营，良久而还，长叹说：“兵败，死矣！”军吏说：“将军威震匈奴，天命不遂，后求道径还归，如浞野侯为虏所得，后亡还，天子客遇之，况于将军乎！”李陵说：“公止！吾不死，非壮士也。”(《汉书·李广苏建传》)于是斩尽旌旗，将珍宝埋于地中。李陵慨叹说：“复得数十矢，足以脱矣。今无兵复战，天明坐受缚矣！各鸟兽散，犹有得脱归报天子者。”夜半李陵与成安侯韩延年率壮士十余人突围，被匈奴数千骑兵追击，韩延年战死。
匈奴招降李陵，李陵曰：“无面目报陛下。”（《史记·李将军列传》）遂降匈奴。仅有四百余人回到了汉境。 这场战役李陵以步兵与匈奴骑兵抗衡，孤军苦战，充分发挥了远射兵器弓、弩的作用，杀伤匈奴骑兵万余，其战术运用和战役指挥是成功的。但是由于汉军未能对李陵部实施必要的接应和支援，实力相差悬殊，最终造成李陵几乎全军覆灭。
李陵战败后，武帝召见了李陵的妻母，后听说李陵投降，大怒而责，陈步乐自杀，群臣皆言李陵有罪。武帝问太史令司马迁，司马迁盛言：“陵事亲孝，与士信，常奋不顾身以殉国家之急。其素所畜积也，有国士之风。今举事一不幸，全躯保妻子之臣随而媒蘖其短，诚可痛也！且陵提步卒不满五千，深輮戎马之地，抑数万之师，虏救死扶伤不暇，悉举引弓之民共攻围之。转斗千里，矢尽道穷，士张空弮，冒白刃，北首争死敌，得人之死力，虽古名将不过也。身虽陷败，然其所摧败亦足暴于天下。彼之不死，宜欲得当以报汉也。”
这次李广利出征匈奴，因为李陵和单于主力遭遇了，李广利的功劳很少。武帝因此迁怒于司马迁，将其腐刑下狱。后武帝后悔没给李陵派救援，说：“陵当发出塞，乃诏强弩都尉令迎军。坐预诏之，得令老将生奸诈。”（《汉书·李广苏建传》）于是遣使者慰劳李陵军逃脱的人。
李陵在匈奴一年有余，武帝派因杅将军公孙敖率兵入匈奴，无功而还，说：“捕得生口，言李陵教单于为兵以备汉军，故臣无所得。”（《汉书·李广苏建传》）武帝闻后，将李陵母弟妻子全部诛杀。陇西士大夫都以李氏为愧。李氏的名声由此败落了。
匈奴单于得到李陵后，因李家世代为将的声望，以及与之交战时李陵英勇的表现，对他非常佩服。把自己的女儿嫁给了李陵，并加以重用，封为右校王。
汉昭帝即位后，大将军霍光、左将军上官桀辅政，二人与李陵交情非常好，便派李陵故人陇西任立政等三人去匈奴招降陵。任立政见李陵即说：“汉已大赦，中国安乐，主上富于春秋，霍子孟、上官少叔用事。(《汉书·李广苏建传》)想以此言打动李陵。但李陵说：“吾已胡服矣！”“归易耳，恐再辱，奈何！”最后他说：“丈夫不能再辱。”表示其决意留在匈奴。
李陵在匈奴二十余年，元平元年病死。
点评：李陵以其特殊的经历使其成为历史上颇有争论的人物。有人以李陵投降匈奴而不耻于他，也有人认为他敢以“步卒五千人横行匈奴”，并非怕死。“将军百战声名裂。向河梁、回头万里，故人长绝。”(辛弃疾· 贺新郎)也许只有司马迁的那一番言论，才是历史对李陵的公正评价。
