蒲月，遵自李城举兵，还趣邺，洛州刺史刘国帅洛阳之众往会之。檄至邺，张豺大惧，驰召上白之军。丙戌，遵军于荡阴，戎卒九万，石闵为前锋。豺将出拒之，耆旧、羯士皆曰：“彭城王来奔丧，吾当出迎之，不能为张豺守城也！”逾城而出；豺斩之，不能止。张离亦帅腾二千，斩关迎遵。刘氏惧，召张豺入，对之悲哭曰：“先帝梓宫未殡，而祸难至此！今嗣子冲幼，托之将军，将军将若之何？欲加遵重位，能弭之乎？”豺惶怖不知所出，但云“唯唯”。乃下诏，以遵为丞相，领大司马、多数督、督中外诸军，录尚书事，加黄钺、九锡。己丑，遵至安阳亭，张豺惧而出迎，服从执之。庚寅，遵擐甲曜兵，入自凤阳门，升太武前殿，擗踊尽哀，退如东閤。斩张豺于平乐市，夷其三族。假刘氏令曰：“嗣子幼冲，先帝私恩所授，皇业至重，非所克堪，其以遵嗣位。”因而遵即位，大赦，罢上白之围。辛卯，封世为谯王，废刘氏为太妃，寻皆杀之。李农来归咎，使复其位。尊母郑氏为皇太后，立妃张氏为皇后，故燕王斌子衍为皇太子。以义阳王鉴为侍中、太傅，沛王冲为太保，乐平王苞为大司马，汝阴王琨为大将军，武兴公闵为都督中外诸军事、辅国大将军。
赵王虎议立太子，太尉张举曰：“燕公斌有武略，彭城公遵有文德，惟陛下所择。”虎曰：“卿言正起吾意。”戎昭将军张豺曰：“燕公母贱，又尝有过；彭城公母前以太子事废，今立之，臣恐不能无微恨。陛下宜审思之。”初，虎之拔上邽也，张豺获前赵主曜幼女安宁公主，有殊色，纳于虎，虎嬖之，生齐公世。豺以虎老病，欲立世为嗣，冀刘氏为太后，己得辅政，乃说虎曰：“陛下再立太子，其母皆出于倡贱，故祸乱相寻；今宜择母贵子孝者立之。”虎曰：“卿勿言，吾知太子处矣。”虎再与群臣议于东堂。虎曰：“吾欲以纯灰三斛自涤其肠，何为专生恶子，年逾二十辄欲杀父！当代方十岁，比其二十，吾已老矣。”乃与张举、李农定议，令公卿上书请立世为太子。大司农曹莫不肯署名，虎使张豺问其故，莫顿首曰：“天下重器，不宜立少，故不敢署。”虎曰：“莫，忠臣也，然未达朕意；张举、李农知朕意矣，可令谕之。”遂立世为太子，以刘昭仪为后。
己巳，虎卒，太子世即位，尊刘氏为皇太后。刘氏临朝称制，以张豺为丞相；豺辞不受，请以彭城王遵、义阳王鉴为摆布丞相，以慰其心，刘氏从之。
犊遂东掠荥阳、陈留诸郡，虎大惧，以燕王斌为多数督，督中外诸军事，统冠军大将军姚弋仲、车骑将军蒲洪等讨之。弋仲将其众八千馀人至邺，求见虎。虎病，未之见，引入领军省，赐以己所御食。弋仲怒，不食，曰：“主上召我来击贼，劈面见授方略，我岂为食来邪！且主上不见我，我何故知其存亡邪？”虎力疾见之，弋仲让虎曰：“儿死，愁邪？何为而病？儿幼时不择善人教之，使至于为逆；既为逆而诛之，又何愁焉！且汝久病，所立儿幼，汝若不愈，天下必乱。抢先忧此，勿忧贼也！犊等贫困思归，相聚为盗，所过残暴，何所能至！老羌为汝一举了之！”弋仲情狷直，人无贵贱皆“汝”之，虎亦不之责，于坐授使持节、侍中、征西大将军赐以铠马。弋仲曰：“汝看老羌堪破贼否？”乃被铠跨马于庭中，因策马南驰，不辞而出。遂与斌等击犊于荥阳，大破之，斩犊首而还，讨其馀党，尽灭之。虎命弋仲剑履上殿，入朝不趋，进封西平郡公；蒲洪为侍中、车骑大将军、开府仪同三司、都督雍、秦州诸军事、雍州刺史，进封略阳郡公。