冉闵击败梁犊后，又继续追赶剩下的残兵败将。杀的杀，降的降，终于花了大半年才将梁犊打的一蹶不振。
当其率领大军得胜归来的后，首先去朝廷述职，然后回到家中，父亲说道：现在你也有了不小的名头，可以保护我们汉民的，朝廷中只有一文一武，武就是指我冉良，文则是指李农，现在你也应该好好拜访一下他们。
冉闵这次来到司农府，见到了李农。
李农与冉闵的会面十分友好，既没有唇枪舌剑，也没有相互挑刺，不过这也是汉族现在已近到了灭亡前的边缘，如果这是不在精诚合作，汉族就要灭亡了！就这样，李农主内，冉闵主外，共同捍卫着汉族的政权，与石虎的另一部分胡人进行政权斗争，一晃眼两年半过去了。
永和五年，石虎去世。皇太子石世成了后赵的皇帝。张豺靠着刘太后的信任继续把持朝政。他假惺惺地宣布石鉴、石遵为左右丞相，又打算诛杀李农，李农闻讯后逃出邺城，率百余骑奔保广宗。张豺派人追赶，将李农围于广宗上白。
由于朝廷内乱，一时都城内外群盗蜂起，迭相劫掠，石遵得知石虎去世，便起兵于河内，与征讨戍卒之乱的诸将会合于李城。诸将都劝石遵称帝，乘邺城空虚，以讨伐张豺为名，进攻京师。石遵听从建议，发檄文至邺城，随后大兵进攻汤阴。张豺急忙调围上白的军队回城，布署防守。石遵的大军以石闵为先锋，很快兵临城下，张豺正准备开城门出兵迎战，只听部下将士说：“天子儿来奔丧，我们应当出门迎接，不能再为张豺守城门啊!”纷纷逾城而出，张豺到处砍杀也不能制止。张离乘机率二千余人马斩杀守关的士卒，开门迎接石遵。这时宫内乱成一团，刘太后惊惧不安，急忙召张豺进宫商议。她哭诉道：“先帝的梓宫还没有安葬，而灾难一个接一个来。今皇儿尚幼，托付给将军你，将军说怎么办呢?给石遵以重官能不能挽救?”张豺此时也惊慌失措，只有唯唯，刘太后于是命令以石遵为丞相，领大司马，大都督，并加九锡朝杖，增封十郡。
石遵抵安阳亭，张豺惊惧而出城迎接，石遵立即命令卫士把张豺抓起来，接着石遵贯甲曜兵，从凤阳门进入邺城，登上太武前殿，跪地大哭致丧，然后退至东阁，斩张豺于东市(邺城内的一个地方)，夷其三族。遂后借刘太后的名义，以皇帝年幼不能担任重任，命石世退位，石遵假意推让了一番后，取皇帝位而坐之。不久又先后将石世和刘氏杀掉。石世自石虎死后继位，至此不过33天。
石遵做了皇帝后，广宗的李农也回到京城恢复原职。石遵宣布以石斌(燕王)的儿子石衍为皇太子，石鉴、石冲、石苞、石瑰、石闵等分任重任。他话音刚落，突如其来的暴风摧折树干，接着在震耳欲聋的雷声中，如盂升大的雹子扑头而降，太武殿、琨华殿被雷击毁坏，各城门上的观音阁也荡然无存，由此引起的大火将宫中的乘舆、服御等烧毁了大半。火焰冲天，大量的金器玉玩一并葬入火中，大火持续了一个多月才渐渐熄灭，整个邺城内外，遍是血雨不分，一片惨景。后人读史至此，都认为这不是什么意外天灾，分明是石遵在都城搞的一场大屠杀!
镇守蓟城的石冲闻讯石遵杀石世自立，对左右僚客们说：“太子也是受先帝之命而继位的，
石遵随便废杀，罪逆莫大，我要亲自讨伐他!”于是点齐5万人马，传檄燕赵，自北向南而来，到达中山时，已经聚众10万余人。石冲驻在苑乡时，京城传来了石遵给他的赦书，于是又对左右说：“我只有这一个弟弟了。死者(指石世)也不能复生，何必再自相残杀呢?我打算回去。”一个部将说：“彭城(指石遵)篡位为主，罪恶太大了，吴王您愿意回去，我们还要南下京师，擒此恶人!”石冲执意撤兵，谁知石遵打着石闵的黄钺金钲和李农等率精兵10万掩杀过来，与石冲的军队在平棘发生激战，石冲大败，在元氏被捉，随后被石遵赐死，其部众士卒3万余人被坑杀。
打败石冲后，石鉴在邺城才开始着手安葬石虎于显原陵。
天下没有平静，南方的东晋得知后赵内部激变，乘机出兵北伐。在长安的石苞也企图率关中之众东向进攻邺城，河洛一带战事频繁。京师邺城内，早已对石遵不满的石闵也暗中欲动。
石遵起兵李城的时候，曾对石闵说：“你加倍努力，事成(攻邺城后)，以你为储。”石遵进城后，改立石衍为太子，令石闵很失望。他以自己的功最大，开始规专朝政，石遵无法，只好任他为都督，总内外兵权。石闵乘机安抚殿中将士，对高力等前太子东宫卫士也加以宽宥不究，还奏请他们为殿中员外将军、关外侯等职爵加以笼络。恰在此时，石遵听从中书令孟准等人之言，削弱了石闵的兵权，石闵更加不满，接着，石遵等人又议于太后郑氏帐前，准备杀掉石闵。太后说：“李城时若没有石闵的帮助，我们哪有今天?即使他有点骄纵，也不能动不动就杀。”但石遵仍坚持己见，商议未果而散。
当时，石鉴在侧，出帐后，他急忙送信给石闵，石闵立即密谋，打算拥立石鉴为帝，命苏亥、周成率精兵壮甲士30余人，赶赴如意观抓石遵。当时石遵正在如意观内与夫人玩弹棋，看周成等人进来，倒很镇静，问：“反者是谁?”周成说：“义阳王当立!”义阳王就是石鉴。
石遵说：“我尚如此，你们立石鉴又能怎么样呢?”周成指挥甲士一拥而上，将石遵杀于琨华殿上。接着又闯入内室，将石遵的母亲(太后)郑氏及所立太子、石斌的儿子石衍一并杀死。石遵自5月当皇帝到11月被杀，也不过做了183天的皇帝。
石鉴被拥为皇帝后，命石闵为大将军，封武德王，李农为大司马，录尚书事。不久，石鉴又命石苞及中书令李松、殿中将军张才等率兵，企图夜杀石闵、李农等人。这时石闵在琨华殿，发现有人偷袭，急忙命周成等抵抗，一时宫禁大乱，火把游曳，人声鼎沸，到处是奔走的士兵。石鉴暗杀石闵没有成功，很担心被石闵发现真相，引起石闵对他的反叛，便假装不知道夜袭的事，当夜就命将李松、张才等人抓住，杀于西华门，同时杀了石苞。
琨华殿之变后，石闵、李农成了石氏谴责的对象。在襄国的石祗檄诛石闵、李农，朝内的石成、石启、石晖等也企图暗杀他们。龙骧将军孙伏都、刘铢等人也联络了羯族士兵三千余人，藏伏于胡天，准备刺杀石闵等人。当时石鉴在中台，孙伏都等率30多人准备爬上中台挟持石鉴去杀石闵，石鉴在台上见他们正拆毁阁道，便走到台边过问。孙伏都说：“李农等人已在东掖门造反，臣等正率卫士前来启奏皇上。”石鉴很高兴，说：“你们都是功臣，赶快出力，我在台上看着呢。不要多虑，我会报答你们的。”孙伏都等人转而去进攻李农、石闵等。但无法取胜，只好退据凤阳门。这时石闵、李农率数千士兵拆毁金明门而闯入宫中。石鉴害怕石闵杀死自己，急忙开门招石闵、李农等进来，说：“孙伏都谋反，卿等赶快计议!”石闵等迅速上前消灭了孙伏都等人。这一战从凤阳门到琨华殿，横尸相枕，血流成渠。
由于孙伏都靠的是羯族士兵，于是石闵禀告内外诸夷：敢持兵杖者，一律斩杀。一时间胡人有的被斩杀，有的急忙逾城而逃。石闵命尚书王简等率数千人将石鉴软禁在御龙观内，吃喝全从城墙上吊下去，接着传告全城说：“凡与官同心者，住，不同心者，各任所之。”随后命令大开城门。于是百里以内的汉族人都拥入城内，而胡、羯等少数民族纷纷逃离京师，因去者太多，竟然堵塞了城门。石闵见此，知道胡人不可再用，便下令大肆屠杀，“凡赵人杀一胡人，首送凤阳门者，文官进位三等，武职悉拜东门!”结果一天之内，被杀的人达几万。石闵亲自督帅汉人屠戮胡、羯人，无论男女老幼贵贱，悉难幸免，死者达20万。尸体耽籍城外，任凭野犬、豺狼所食。屯守四方的守官也在接到石闵的命令后进行了屠杀，一些高鼻子、多胡须的汉人也未能幸免，多半被杀。太宰赵鹿、太尉张举等诸公侯卿校约万余人，也因害怕石闵的滥杀而逃出邺城，投奔襄国石祗。奉命在城外讨伐石祗的石琨也奔到冀州。国内大乱，各地一方面屠杀胡人，一方面起兵讨邺。石闵率领千余人在城北抗拒作战，他持双刀，亲自冲入敌阵，势不可挡，竟一连割杀了千余人。这时，被软禁的石鉴交给一个宦者密令，召张沈等乘虚进城。宦者出城后，却将此令交给石闵，石闵大怒，与李农等人马上赶回城里，杀死了石鉴，接着对石氏家族大开杀戒，将石虎的子孙38人全部杀光，只有石虎最小的儿子石琨逃脱，后来率妻妾数人投奔建康，结果被东晋送入狱中，不久也被斩杀。
自此以后，冉闵称帝，建立冉魏。
