遼道宗大安三年（1087年），耶律大石出生于上京，他是遼太祖耶律阿保機八世孫，從小好學，善于騎射。兼通漢文、契丹文。天慶五年（1115年），耶律大石中進士，入翰林院，任翰林承旨，他是《遼史》中記載的遼朝唯一一個契丹進士。后歷任泰、祥二州刺史，遼興軍節度使。

1122年（遼天祚帝保大二年），金兵大舉南侵，攻克中京，天祚帝不敢留守，西逃入云中。時大石等留守南京，遭到金、宋夾攻。為了安定人心，堅持抵抗，大石擁立耶律淳即位，稱天錫皇帝，后世稱北遼。耶律淳任命大石為軍事統帥，負責守衛。

大石分析當時形勢，決定向金稱臣，同北宋結好。但是，北宋君臣認為這是奪回燕云十六州的好機會，出兵二十萬攻打南京。大石率軍迎戰，敗宋軍于白溝河，不久耶律淳病死，其妻蕭德妃攝政，宋兵復來攻，奇襲南京城，在巷戰中遼軍再次取勝，使得兵心復振。

1123年四月，大石率軍在奉圣州龍門壁附近抵抗失敗被俘，逼迫為金兵帶路偷襲天祚帝的青冢大營。后從金營逃脫，九月投奔天祚帝。天祚帝并不能原諒大石擅自另立皇帝的作為，也不能接受大石“養兵待時”的意見，這使得大石深自疑慮。1124年夏，在天祚帝準備出兵與金決戰時，大石殺死了蕭乙薛、坡里括二將，率領親兵200人逃離。

1134年，東喀喇汗國阿赫馬德汗死，其子易卜拉欣汗不得人心，造成康里人和葛邏祿人叛亂，被迫邀請西遼出兵協助平亂。大石很快平定了康里和葛邏祿，并把東喀喇汗國降為附庸，割取其北疆一帶為西遼直轄領地。當年，大石定都于八剌沙袞（今吉爾吉斯托克馬克），改年號康國元年。

1141年西遼的控制區域東至高昌，西抵里海，成為了中亞的霸主。1143年，耶律大石病逝，享年五十七歲，廟號“德宗”。

關于耶律大石本人的宗教信仰，不同宗教的信徒有著不同的說法，《世界征服者史》的作者志費尼認為他“秘密成為了一位穆斯林”，另一位歷史學家伊本·阿西爾又說他是摩尼教徒，甚至還有景教徒稱頌他是傳說中的祭司王約翰。其原因也許是因為他表現出了極度的寬容性。

在統治區域內，他沒有強行推進任何信仰，并且對不同的宗教一視同仁。伊斯蘭教、佛教、景教、摩尼教、薩滿教等宗教都在西遼贏得了不少信徒。對于其屬國和附庸部落，大石要求他們按時繳納貢金，并派遣一名“沙黑納”（監國）監管，他們的頭人要掛銀牌表示臣服。其余方面一切依照原有模式治理。另外，他也采取了遼朝南北面官制，對南面的農耕居民和北部的游牧居民按其習俗分別治理。每戶交一，“新論”的基點有二。一是以中國記載排斥波斯、阿剌伯記載：“我國自古即有嚴格而認真的記史、修史制度，《遼史》和《金史》的編纂，都有檔案和實錄做依據，即使在剪裁刪削時，可能在年代和小節上會有失誤，但是重要的史實決不會出現問題。因此，耶律大石西行經過西州回鶻汗國境內，是無可懷疑的事實。

中亞和西方向來沒有官方記史和修史的傳統，有關史籍多出自私人之手，其可靠性自然比不上中國文獻。因此，無論是志費尼，還是伊本－阿西爾都沒有記錄耶律大石路經西州回鶻的史實，由此可知穆斯林史家的記載也有其一定的局限性”。二是以所稱的歷史地理知識否定西行路線的其他方案：“既然耶律大石西行的目標大食，是喀喇汗王朝以巴拉撒渾城為中心的北部地區；

那么，只要熟悉古代中國北方和西域歷史地理的人，立刻就會想到一條最便利的路線：自蒙古高原中部的可敦城出發，經過阿爾泰山南麓和東部天山北麓，到達西州回鶻國的都城別失八里，這條道路就是唐代中期開辟的回鶻路。再從別失八里沿天山北麓西行，在今新疆精河縣穿過登努勒臺山口，到達伊犁河流域，然后西經伊塞克湖南岸，西至巴拉撒渾城，這是一條唐朝十分繁榮的通道，因為終點是巴剌撒渾以西不遠的碎葉城，所以被稱作碎葉路”。

對于第一點，并不夸大地說，這種“感觀”過于偏頗。乃為當時中亞主要歷史著作之一的志費尼《征服世界史》等書難以輕易否定，猶如波伊勒（J.A.Boyle）在英譯本序里所言：“《世界征服者史》是1252年或1253年在哈剌和林開始撰寫的；而志費尼在1260年仍在撰寫它”。“

引用巴爾托德的話，他的著作尚未得到它應有的估價”。“有意義的是，拉施特（《史集》）在談這個時期的歷史中，經常滿足于幾乎逐字逐句地追隨他的前輩。志費尼更有兩次訪問東亞的方便。他對突厥人和蒙古人的大部分報道，必定是在蒙古宗王的宮廷中，以及他到那里去的旅途中所搜集到的”。

而以《遼史》、《金史》論，元人修史時資料就已殘缺。蘇天爵《滋溪稿》卷二五〈三史質疑〉：“金亡，元帥張侯柔收拾金史北歸，中統初送史院，當時已闕太宗、熙宗實錄”。“金諸臣三品以上方許立傳，然多無事業，所書不過歷官歲月而已。四品以下當載者多，而史卻不載。當訪求書之。

若夫將相大臣卒于太宗、熙宗、衛王之時者，雖歷官歲月，今亦多無所考矣”6。耶律大石建國時，遼社已墟，而金所統治并不包涵大漠迤北。既不可能是耶律氏、完顏氏宮廷舊藏，當然也無法沾叨“我國自古即有嚴格而認真的記史、修史制度”之光。