當時，梁王朱溫盤踞宣武鎮（治所汴州，在今河南開封），控制中原地區。李克用與朱溫為爭奪中原霸權，進行了二十余年的梁晉爭霸戰爭。

李存勖是李克用與側妃曹氏所生，自幼便善于騎射，膽略過人，心性豁達，深得父親寵愛。他愛讀《春秋》，略通微言大義，而且精擅音律，可謂文武雙全。

乾寧二年（895年），邠寧節度使王行瑜聯合鳳翔節度使李茂貞、鎮國節度使韓建，攻入長安（治今陜西西安），謀廢唐昭宗。李克用率軍勤王，討平三鎮叛亂。李存勖時年十一歲，也隨軍征戰，并入朝獻捷，受到唐昭宗的夸獎與賞賜。不久，李存勖被授為檢校司空，遙領隰州刺史，后改領汾州、晉州。

天復二年（902年），李克用因太原兩次被梁軍圍困，無力抗衡朱溫，為此憂慮不安。李存勖勸慰道：“物不到極點不會反復，惡不到極點不會消亡。朱溫威逼天子，覬覦帝位，陷害良善，可謂是自取滅亡。我家三代盡忠王室，如今雖因勢窮力屈無法報效，但也無愧于心。父親您應忍耐靜觀，積蓄力量，以待朱溫衰弱之時再圖復興，怎能輕易就灰心喪氣呢。李克用因而釋然。

天祐三年（906年），朱溫遣軍攻打滄州（本屬橫海鎮，時為幽州鎮治下），幽州節度使劉仁恭遣使向李克用求救。李克用惱怒劉仁恭的反復無常，不愿發兵援助。李存勖卻道：“如今朱溫已占據天下的九分之七，連魏博、成德等藩鎮也歸附于他，黃河以北能與之對抗的只剩下我晉國和劉仁恭了。如果我們不救劉仁恭，形勢將會對我們更加不利。而若出兵援助，可使我晉國重振雄風，萬不能因嫌怨而失此良機。”李克用遂遣軍攻取潞州（治今山西長治），迫使朱溫由滄州撤兵。

天祐四年（907年），朱溫篡唐稱帝，建立后梁，史稱梁太祖。他改元開平，定都于汴州。但李克用拒不承認后梁政權，仍沿用唐朝天祐年號，以復興唐朝的名義與后梁相對抗，成為后梁北方最大的威脅。是年五月，朱溫派十萬兵馬圍攻潞州，修筑夾寨。李克用命周德威援救潞州。但周德威與梁軍對峙年余，卻始終不能解除潞州之圍。

天祐五年（908年），李克用病逝。李存勖繼任河東節度使，襲封晉王，時年二十四歲。當時，李克用的養子李存顥、李存實等人自恃手握軍權，又年長于李存勖，對李存勖襲位非常不滿。他們有的稱病不朝，有的見而不拜，甚至慫恿叔父李克寧發動叛亂，意欲謀害李存勖，投降后梁。李存勖沉著應對，首先取得監軍張承業、大將李存璋等人的支持，而后搶先行動，在府中埋伏甲士，擒殺李克寧、李存顥等人，初步穩固了國內政局。

是年四月，李存勖親自率軍援救潞州，于二十九日抵達潞州北面的黃碾（在今山西長治）。梁軍本以為李存勖年輕繼位，必然不敢出軍，對此毫無防備，也未派出斥候探查。五月初二，李存勖伏兵于三垂岡下，趁著大霧直攻夾寨，出其不意的大破梁軍，徹底解除了潞州之圍。經此一戰，晉國兵威大振。不久，李存勖返回太原，犒賞軍士，而后開始整頓內政。他嚴肅軍紀、撫恤孤寡，任用賢才，懲治貪腐，寬緩刑罰，打擊盜賊，使得晉國民俗大變，百姓歸心。

天祐七年（910年）十一月，朱溫遣軍三千進駐深州、冀州，企圖奪取成德、義武兩鎮。成德節度使王镕、義武節度使王處直先后遣使向李存勖求援，表示愿與晉國結成反梁同盟，共推李存勖為盟主。李存勖力排眾議，毅然發兵相救。他親率晉軍東進，于是年十二月進至距離柏鄉五里處的野河（今滏陽河支流）北岸，與梁軍隔河對峙。

天祐八年（911年）正月，李存勖命周德威率三百精騎到梁軍營前挑戰，激怒梁將王景仁，將梁軍誘至鄗邑以南的平原曠野地帶。他利用地形優勢，以逸待勞，在梁軍疲憊時率騎兵突擊，大破梁軍，俘獲梁軍將校二百八十五人，斬首二萬級。此戰，梁軍伏尸數十里，龍驤、神威、神捷等精銳禁軍全軍覆沒，王景仁、韓勍、李思安僅率數十騎連夜逃歸。成德鎮、義武鎮從此徹底倒向晉國。

柏鄉之戰后，李存勖決定暫緩對后梁的攻勢，先奪取河北地區，以消除后顧之憂，首要目標便是囚禁父親劉仁恭而繼任幽州節度使的燕王劉守光。他采用驕兵之計，聯合成德、義武、昭義、振武、天德五鎮，遣使奉冊，共尊劉守光為尚父，以滋長其野心。劉守光卻以為六鎮是畏懼幽州兵威，更是驕狂。他得知尚父無權祭天、改元，不顧幕府諸將反對，于天祐八年（911年）八月在幽州悍然稱帝，國號大燕，史稱桀燕。是年十二月，李存勖命周德威兵出飛狐口（在今河北蔚縣），聯合成德鎮、義武鎮一同征討劉守光。

天祐九年（912年），周德威奪取涿州，進圍幽州。劉守光忙向后梁求救。朱溫親率大軍北上，命楊師厚圍攻棗強，又命賀德倫攻打蓚縣（治今河北景縣）。但梁軍雖攻破棗強，卻在蓚縣被晉將符存審、史建瑭擊敗。朱溫羞憤發病，返回洛陽，不久便被其子朱友珪弒殺。

天祐十年（913年），朱友貞發動政變，誅殺朱友珪，奪取帝位，史稱梁末帝。而晉軍則連奪幽州鎮統轄的順州（治今北京順義）、檀州（治今北京密云）、武州（治今河北宣化）、平州（治今河北盧龍）、營州（治今遼寧朝陽）等地。是年十一月，李存勖親征燕國，攻破幽州，俘獲劉仁恭（一直被劉守光囚禁）、劉守光父子。他留周德威鎮守幽州。

天祐十一年（914年），李存勖返回太原，處死劉仁恭父子，以祭奠李克用。當時，李存勖南破后梁，北定桀燕，威震天下。王镕、王處直相繼遣使入晉，共推李存勖為尚書令。存勖依禮三辭，而后接受尚書令之職。他在太原開設霸府，建立行臺，以唐朝皇帝的名義承制任命官吏。

天祐十二年（915年），魏博節度使楊師厚病逝。梁帝朱友貞趁機將魏博鎮分為兩鎮，以削弱藩鎮勢力，結果引發魏博兵變。變兵囚禁新任節度使賀德倫，請降于晉。李存勖乘勢進占魏州（治今河北大名東北），并處死變兵首領張彥等人，以威懾兵變士卒，穩定亂局。他收魏博牙兵為親軍，親自兼領魏博節度使，隨后又攻取德州、澶州（治今河南清豐西）。是年七月，李存勖進兵莘縣，與梁將劉鄩展開對峙。

天祐十三年（916年），李存勖聲言回師太原，以引誘劉鄩出戰。劉鄩果然中計，欲趁機奪回魏州，結果遭到李存勖、李嗣源、符存審的三面夾擊，在元城一戰中全軍潰敗，逃奔滑州（治今河南滑縣）。此后，李存勖又遣軍接連攻取衛州（治今河南衛輝）、洺州（治今永年東南）、相州（治今河南安陽）、邢州（治今河北邢臺）、滄州、貝州（治今河北清河西）等地。黃河以北除黎陽（治今河南浚縣東）一地外，全部被晉國占領。梁晉形勢從此發生逆轉。

天祐十四年（917年），壽州刺史盧文進叛附契丹，并引契丹軍南下。契丹皇帝耶律阿保機親率五十萬大軍，入寇幽州。守將周德威孤軍堅守幽州，同時遣使向李存勖求援。李存勖遂命符存審、李嗣源、閻寶統領七萬步騎，北上救援。是年八月，李嗣源率援軍抵達幽州城外，大敗契丹軍，解除幽州之圍。此戰，晉軍俘斬以萬計，繳獲牛羊、輜重無數。

契丹敗退，北疆暫保無憂。李存勖開始調兵南下，推鋒至黃河岸邊，與梁軍夾河對峙，爭奪黃河沿岸各處要點。

天祐十四年（917年）十二月，李存勖率軍東進，連破梁軍數座營寨，攻陷楊劉城（魏州通向鄆州的重要渡口，在今山東東阿北），俘獲守將安彥之，并攻掠至鄆州（治今山東東平）、濮州（治今山東鄄城北）一帶。當時，朱友貞正在洛陽進行祭天大典，聞訊倉皇趕回汴州，組織復奪楊劉城。但謝彥章數次用兵，始終未能收復楊劉城。

天祐十五年（918年）八月，李存勖調發河東、魏博、幽州、橫海、義武等鎮軍隊，齊集魏州，準備直搗汴州，一舉滅亡后梁。是年十二月，李存勖由濮州境內的麻家渡渡過黃河，進駐胡柳陂（在今山東鄄城西北），與梁軍展開血戰。晉軍大敗，周德威戰死。李存勖被迫據土山自保。當時，圍山梁軍多是步卒，而且立足未穩。李存勖采用閻寶、李建及的建議，以騎兵突擊，終于反敗為勝，擊潰梁軍。此戰，晉軍雖乘勝奪取濮陽，但也因傷亡慘重，無力再攻汴州，只得撤歸河北。

天祐十六年（919年），符存審進據德勝城（魏州通向汴州的重要渡口，在今河南清豐西南），并夾河修筑南北兩城。梁將賀瑰圍攻德勝南城，并以竹索連結戰船橫列河面，將李存勖所率援軍阻在黃河北岸。李建及率三百勇士，乘船駛至河中，斧劈火燒，沖破了梁軍船陣。李存勖乘勢揮軍渡河，大敗梁軍。

后來，梁將王瓚從黎陽渡河，屯據楊村渡，修造浮橋，儲存大量軍需物資。而李存勖也征發數萬民丁，擴建德勝北城。當時，梁晉兩軍每日大小百余戰，互有勝負。

天祐十七年（920年），河中節度使朱友謙攻取同州（治今陜西大荔），叛梁降晉，結果遭到劉鄩的圍攻，遣使向李存勖求援。李存勖命符存審、李嗣昭、李建及出軍援救，在同州、渭河兩次大敗劉鄩，并追擊至奉先（治今陜西蒲城）一帶。河中鎮從此歸附于晉國。

天祐十八年（921年），成德軍將張文禮煽動兵變。李存勖迫于形勢，授其為成德兵馬留后。不久，河中、昭義、橫海、成德等十一藩鎮，一同遣使勸進，請李存勖建國稱帝，被李存勖拒絕。八月，李存勖命閻寶征討成德鎮，圍困鎮州（治今河北正定）。張文禮驚懼病死，其子張處瑾接掌軍事，繼續負城頑抗。義武節度使王處直勾結耶律阿保機，引契丹軍南下，意圖背叛李存勖，結果被義子王都囚禁。王都繼任節度使，不久便被契丹軍圍困在定州。

天祐十九年（922年），李存勖親率五千鐵騎北上，先后在新城（治今河北高碑店）、望都大敗契丹軍，解除定州之圍，并乘勝追擊至幽州。但與此同時，晉軍在鎮州卻連連失利，損兵折將。閻寶攻城受挫，羞憤病逝。繼任主帥李嗣昭、李存進相繼戰死。

而梁軍則趁虛反撲，攻克衛州、新鄉等地，重新奪回河北重鎮相州。是年九月，鎮州終因久被圍困，糧盡力窮，被符存審攻破。張處瑾及黨羽張處球、高濛、李翥等皆俘送魏州處死，張文禮也被劈棺戮尸。李存勖又兼領成德節度使，將成德鎮直接納入晉國管下。

天祐二十年（923年）四月，李存勖接受諸鎮勸進，在魏州稱帝，改天佑二十年為同光元年。他沿用“唐”為國號，又追贈父祖三代為皇帝，與唐高祖、唐太宗、唐懿宗、唐昭宗并列為七廟，以表示自己是唐朝的合法繼承人，史家稱之為后唐。當時，后唐轄有魏博、成德、義武、橫海、幽州、大同、振武、雁門、河東、河中、晉絳、安國、昭義等十三個節鎮、五十個州。

后唐建立的同時，仍面臨著嚴峻的形勢。契丹不斷侵擾幽州，兵鋒直逼河北。潞州守將李繼韜叛附后梁，梁將董璋急攻澤州（治今山西晉城），意圖吞并昭義鎮，直接威脅后唐西都太原的安全。李存勖為了扭轉戰局，決定趁梁軍東面防守空虛之機，出兵奇襲鄆州，以切斷梁軍右翼，再伺機進圖汴州。

同光元年（923年）閏四月，李存勖命李嗣源率五千步騎，連夜冒雨渡河，一舉襲破鄆州。朱友貞聽聞鄆州失守，命王彥章率軍阻止唐軍西進。李存勖命朱守殷嚴守德勝，自率親軍進屯澶州。

五月，王彥章出兵楊村渡，攻克德勝南城，繼而順河東下，攻打楊劉城。他打算先隔斷河北唐軍與鄆州的聯系，再圖收復鄆州。而李存勖則命朱守殷放棄德勝北城，裝載軍需器械浮河而下，協助李周固守楊劉城。兩軍各自沿河一岸疾進，邊行邊戰，互有勝負。不久，王彥章進抵楊劉城下，揮軍強攻，晝夜不息，并以巨艦九艘橫亙河津，阻攔唐軍增援。他屢攻不克，只得退屯城南，筑壘連營，以阻擊唐軍渡河。

六月，李存勖親臨楊劉，一面命唐軍出營挑戰，牽制梁軍兵力，一面命謀臣郭崇韜領兵奔赴博州（治今山東聊城東北），在黃河東岸修筑新城，以接應鄆州唐軍。王彥章率軍急攻博州新城，還用十余艘巨艦置于黃河中流配合作戰。郭崇韜據城堅守，李存勖亦率軍自楊劉增援。王彥章只得撤軍，退保鄒家口。李存勖與鄆州李嗣源重新恢復了聯系。七月，王彥章復攻楊劉，再次被唐軍擊敗，遂撤師西歸，退保楊村，不久便被召回汴州。段凝接任主帥。

八月，朱友貞部署四路反擊：命段凝攻澶州、董璋攻太原、霍彥威攻鎮州、王彥章攻鄆州，打算在十月向后唐發動總攻，但因兵力分散，造成汴州防守空虛。他還命梁軍掘開滑州（治今河南滑縣）南面的黃河大堤，以阻止唐軍進攻汴州，但同時也將梁軍主力阻隔在決河以北。九月，梁將康延孝投降后唐，將后梁軍情盡數告知李存勖，建議唐軍趁虛襲取汴州。而李嗣源則在鄆州附近大敗王彥章，俘獲梁軍將校三百余人，迫使梁軍退保中都（治今山東汶上）。

十月，李存勖自楊劉渡河，進抵鄆州，并以李嗣源為前鋒，攻破中都，俘殺王彥章。當時，諸將都認為應先攻占兗州等地，再乘機而動。李嗣源則堅持趁虛襲汴的戰略。李存勖命李嗣源率前軍倍道兼程，向汴州進發。是月初九日，李嗣源抵達汴州，揮軍攻城。朱友貞自殺，梁將王瓚開城投降。李存勖于同日抵達，由大梁門進入汴州，后梁正式滅亡。

梁晉爭霸期間，南方還存在很多割據政權。其中前蜀據有三川（指劍南西川、劍南東川、山南西道），定都于成都，其國主稱皇帝，與后梁分庭抗禮。后主王衍在位時，奢侈**，大興土木，委政于宦官、狎客，縱容太后、太妃賣官鬻爵，致使朝政敗壞，貪腐成風。他還在國內四處巡游，強制沿途州縣供應食宿，百姓苦不堪言。后唐滅梁，威震天下，岐國、楚國、吳越國、閩國、南平國等割據政權紛紛入貢稱藩，前蜀卻不肯臣服。李存勖便有意討平前蜀。

同光二年（924年），客省使李嚴出使前蜀，趁機刺探蜀中虛實，他歸國后極力主張伐蜀，稱蜀國已有亡國之象，更堅定了李存勖出兵滅蜀的決心。當時，前蜀為了防御后唐，在兩國邊界駐有重兵。同年八月，李存勖又遣使者李彥稠入川，表示要與蜀國修好，以此麻痹王衍。王衍信以為真，派翰林學士歐陽彬為唐蜀通好使，出使后唐，同時還撤除了邊界守備。

同光三年（925年）九月，李存勖以魏王李繼岌為主帥，統領六萬大軍，征討前蜀。李繼岌年幼，軍務皆有副手郭崇韜決斷。唐軍以康延孝、李嚴為前鋒，連克威武城（在今陜西鳳縣東北）、鳳州（治今陜西鳳縣）、興州（治今陜西略陽）等地，繳獲大批糧草。

而與此同時，王衍仍在國內巡游作樂，到達利州（治今四川廣元）時方知唐軍來犯。他急忙組織三萬兵馬迎戰，卻被唐軍擊潰于三泉（治今陜西寧強西南）。前蜀各處藩鎮紛紛來降，王衍倉皇逃回成都。

是年十一月，前蜀中書令王宗弼發動政變，囚禁王衍、后妃及諸王，自稱西川兵馬留后。他以王衍的名義邀請李嚴到成都，商談投降事宜。李嚴馳入成都，撫慰前蜀官吏、百姓，命蜀軍撤去成都的軍事防備。不久，李繼岌率大軍進抵成都。王衍率百官出城拜降，前蜀正式滅亡。南方諸國皆驚懼不已。

同光四年（926年）二月，魏博戍卒在貝州嘩變，推裨將趙在禮為首領，攻入魏州。邢州、滄州也相繼發生兵變，河北大亂。元行欽帶兵進討，但卻連連失利。李存勖本欲親征，被宰臣勸阻，只得起用李嗣源，讓其率侍衛親軍北上平叛。李嗣源在魏州城下遇到親軍嘩變，被劫持入城，與叛軍合勢。他本無反意，但迫于內外形勢，又無以自明，只得率變兵南下。

三月，李存勖親自率軍東征，欲坐鎮汴州指揮平叛。但李嗣源已搶先占據汴州，得到大批唐軍將領擁戴。李存勖知道局勢已不可挽回，行至萬勝鎮（在今河南中牟西北）便下令回師，倉皇返回洛陽。他再三撫慰士卒，許以厚賞，但已為時太晚。士卒均不感皇帝恩德，沿途逃散過半。[40]當時，李繼岌已率征蜀大軍班師，途中因平定后軍康延孝叛亂，被耽誤了歸程。

四月，李存勖決定前往汜水關（在今河南滎陽西北），與李繼岌會合，再聯兵進剿李嗣源。他命扈從軍兵候于宮門外，自己在內殿進食。從馬直指揮使郭從謙突然發動叛亂，率所部攻入興教門。李存勖親率宿衛出戰，殺死數百亂軍，最終被流矢射中，死于絳霄殿，時年四十三歲。

伶人善友將樂器覆蓋在李存勖身上，縱火焚尸。李繼岌軍至渭南，因部屬潰散，被迫自縊而死。征蜀大軍則在副使任圜的率領下，歸附李嗣源。是月，李嗣源進入洛陽，在李存勖靈前稱帝，史稱后唐明宗。

七月，李嗣源將李存勖葬入雍陵，上廟號莊宗，追謚為光圣神閔孝皇帝。