于是授李彦仙陕州知州兼安抚使，升武节郎、阁门宣赞舍人，并赐他袍带、枪剑。

建炎二年四月，李彦仙主动节受鄜延经略使王庶的统领，向来与王庶有隙的曲端对此非常不满，这也使李彦仙和曲端之间产生了矛盾，成为陕州孤立无援、最终陷落的原因之一。

李彦仙收复陕州时，潼关以东仅有此城还在宋朝手中。

李彦仙加紧修筑城墙，深挖护城河，扩充军备，大力屯田，并将全家从巩州搬到陕州，表示要“以家殉国、与城俱存亡。”听者无不动容。

建炎二年（1128年）冬，李彦仙在陕州城下与金将乌鲁撒拔大战七天，金兵死伤惨重，怆惶撤离。

建炎三年（1129年），娄室从绛州移屯蒲州、解州，发兵陕州，李彦仙通过谍报知道后在中条山设伏，痛击来犯之金军，俘获金将十八人，娄室侥幸脱逃。

正月十二日，麾下将领邵隆收复虢州（今灵宝、卢氏），彦仙命其知虢州 。

彦仙任命另一位将领党松知同州（今陕西大荔），但由于当时同州城还为金军占领，因此党松将治所设置于同州城三十里以外的下寨（今大荔下寨镇）。

李彦仙被朝廷授予右武大夫，宁州观察使兼同、虢二州制置使（据《宋名臣言行录》载为河、解、同、耀制置使）。

当时有河东土豪暗中投靠，期待与宋军里应外合。

李彦仙猜测此后金人必合兵来攻陕州，于是立即派人造访川陕宣抚使张浚请求支援三千骑兵，并请张浚在金人攻陕州后，立刻渡河向北进攻绛州（今山西新绛）、晋州（今山西临汾）、汾州（今山西汾阳）、并州（今山西太原）等地，捣其心腹，金人必撤军自救，然后从岚州（今山西岚县）、石州（今山西吕梁）向西渡河，取道鄜州、延州（今陕西延安）以归 。

然而张浚回信劝李彦仙放弃陕州，空城清野，据险保聚，俟机而动。彦仙没有听从。

建炎三年（1129年）腊月，娄室果然与折可求合兵十万，进犯陕州。

娄室将士兵分为十部，从元旦日起轮流进攻陕州。

李彦仙端坐樵楼之上，一边饮酒，一边令手下人役大作鼓乐。

夜里，李彦仙派健卒缒出城墙，焚毁金兵攻城器械，金兵大惊，后退数里扎营。

此时城中粮食已尽，只能煮豆充饥，李彦仙令士兵食豆，而自己则饮其汁。

在豆子也耗尽后，李彦仙只得再次向张浚求援，张浚一面派人从僻道带着金币前来劳军，一面急令泾原路都统曲端出兵敌后的鄜州、坊州，但曲端素来嫉妒李彦仙军功，谎称无法出兵 。

彦仙幕下官员谢升劝张浚说：“金人很快会攻下陕州，之后便会完全占据黄河，并且觊觎四川了。”

于是张浚亲自从长安率兵来援，但因道路被阻而不得进。

陕州部将邵隆、吕圆登、杨伯孙等都率兵前来救援州城，然而少有能最终入城的。

李彦仙每日与金人战，将士未尝解甲。

娄室敬重李彦仙才能，企图派使者劝降，许以河南兵马元帅之职，李彦仙断然拒绝，并斩杀来使。

后来娄室又派人到城下，称“只要投降，立即授予之前许下的官秩”，李彦仙告诉使者：“吾宁为宋鬼，安用汝富贵为”，之后命令手下以强弩射死来人。

此后李彦仙命令在陕州城墙上设钩索，每日钩取金人，舂斮于城墙上。

因围城已久，守城士兵伤亡人数不断增加，而金兵的攻势也越发猛烈。

建炎四年正月十四日，金兵破城而入，在激烈的巷战中，李彦仙左臂被砍而未断，全身中矢如同刺猬。

陕州居民全无二心，即便是妇女也登上屋顶用瓦砸金人，并为他哭泣不已。

娄室惜才，命部下必须生擒李彦仙，得者可获万金。

李彦仙为免被敌人俘虏，换上便衣准备渡河逃脱，称：“我不甘以身受敌人之刃。”

由于陕州军民反抗激烈，娄室怒而屠城，李彦仙听闻后不禁大为悲痛，说：“金人之所以屠城，全是因为我长期坚守不降之故，我有何面目苟且偷生呢？”

然后投河而死，年仅三十六。

其全家也被金兵屠戮，只有其弟李夔、其子李毅幸免于难。其裨将邵云、吕圆登、宋炎、贾何、阎平、赵成等也都战死于此役。

绍兴二年（1132年），张浚承制赠彦仙彰武军节度使，在商州建“忠烈祠”以为纪念，官其子，给宅一区，田五顷。

绍兴九年，宣抚使周聿请求在陕州立“义烈祠”作为纪念。

后来因为商、陕被割让给金国，其子李毅向朝廷奏言其父功绩，于是宋孝宗乾道八年（1172年），朝廷在阆州再立“忠烈祠” ，并赐谥号“忠威”。