李从善回到金陵后，将柴荣的意思转告给了李璟，李璟更为慨叹，即命各州修葺城池，增加戌兵。
钟谟眼见得南北睦好，百姓再无战火之苦，心中大为高兴，特意作诗献于柴荣，诗曰：
三年耀武群雄服，一日回銮万国春。
南北通欢永无事，谢恩归去老陪臣。
柴荣自从回到大梁后，病势仍然不见好转，不祥之感越加强烈的念头，便有意无意地开始考虑起后事来。先立符皇后之妹为皇后，人称“小符后”，又立皇子柴宗训为梁王，领左卫上将军；立皇子柴宗让为燕王，领左骁卫上将军。
王朴逝世后，柴荣一直想再选一人为宰相，他知道兵部尚书张昭远为人庄重耿直，便问道：“朕欲选一贤相，卿认为朝廷大臣之中，谁可为宰相？”
张昭远毫不迟疑地答道：“李涛！”
柴荣愕然道：“李涛为人轻薄，连个大臣的样子都没有，你却首荐他为宰相，这是为何？”
张昭远答道：“陛下所指责的是小节，臣所推举的是大节。晋高祖之时，张彦泽虐杀无辜，李涛多次上表，执意奏请杀了张彦泽，并说‘张彦泽不杀，必为国患’，晋高祖不听，致使大梁为张彦泽所首乱；汉隐帝之时，李涛也上表，奏请解除先帝兵权，以备非常之变，隐帝不听，后来先帝因此而得天下。国家安危尚未有任何征兆之时，李涛就已有如此先见，这难道不是贤相吗？故而，微臣推荐李涛。”
柴荣道：“卿言甚是，也算至公，然而，李涛虽然有大才，但确实不宜置于中书之中。”
柴荣此言，确是实情。李涛为人诙谐幽默，而且不修边幅。他与其弟李浣俱以诗文闻名于世，有许多脍炙人口的诗句当时就流行于世，如：“水声长在耳，山色不离门”、“扫地树留影，拂床琴有声”、“落日长安道，秋槐满地花”……
李涛、李浣兄弟二人虽然友爱雍睦，但却谑浪放迹，不分长幼，常常有不合礼节的怪言。李浣娶礼部尚书窦宁固之女，窦女年龄大了些。成婚的当晚，窦女出来参拜，李涛一见，却突然率先下拜，李浣大惊道：“兄长疯了吗？新媳妇参见大伯，哪有答礼的？”李涛笑道：“为兄没疯，我把她当做亲家母了！”李浣又羞又气。李涛坐下后，窦女重新参拜，李涛竟叉手于胸前，说了一句歇后语：“惭无窦建，缪作梁山，喏，喏，喏！”当时在场之人，全都捧腹大笑。
李涛是长沙人，小字社公，经常用社公称呼自己。当世有“社日饮酒可以治耳聋”的说法，去年社日，翰林学士李昉供给内库酒，李涛跟在后面向其讨要，并作诗道：
社公今日没心情，乞为治聋酒一瓶。
恼乱玉堂将欲偏，依稀巡到第三厅。
李昉忍俊不禁，只好满足了他。
柴荣也知道，论李涛才能，绝对是宰相的最佳人选，但他如此放浪形骸，总觉着威仪不足，恐惹朝野议论。
柴荣又想以枢密使魏仁浦为宰相，但也有人反对，认为魏仁浦没有中过进士，甚至于连科举都没有参加过，不可为相。柴荣却道：“自古以来，皆以文武才略用人，难道选宰相也要按科第选举吗？”
最后，柴荣以范质、王溥、魏仁浦三人为相，魏仁浦仍旧兼任枢密使。
柴荣性格严急，近臣稍有违犯，即被处死。魏仁浦却经常将别人的罪过揽在自己身上，因此而救了许多近臣的性命。故而，他虽然出身于刀笔小吏，但进位为宰相之时，时人大多也都能认可。
柴荣此时想起一件事情：北征之时，军用财物皆由京师送至行在。有一天，柴荣亲自前往巡视，却偶然在地上发现了一块木牌，长二三尺，宽一尺，上半段写着三个字：点检做。柴荣不明所以，遍问众人，却谁都不知其来历。于是，柴荣便以澶州节度使张永德兼殿前都点检、同平章事，以赵匡胤为许州节度使兼殿前都点检，加检校太傅。柴荣认为，张永德、赵匡胤乃满朝文武之中对自己最为忠心的两位股肱之臣。
柴荣病势日重一日，病危之际。柴荣临终之前，忽然想起王朴曾说他有三十年阳寿，开始认为王朴骗他，后来才想起王朴原话乃是“三十数后就不知道了”，突然大悟：自从他即位算起，实际上只有五年六个月，正好是三十之成数！原来，王朴当初含糊其言，只是想婉言宽慰他罢了。
六月十九日，雄心勃勃的一代英主柴荣，就这样带着满腹的遗憾驾崩了，时年只有三十九岁。
司马光赞道：
世宗以信令御群臣，以正义责诸国，王环以不降受赏，刘仁赡以坚守蒙褒，严续以尽忠获存，蜀兵以反覆就诛，冯道以失节被弃，张美以私恩见疏。江南未服，则亲犯矢石，期于必克，既服，则爱之如子，推诚尽言，为之远虑。《书》曰：“无偏无党，王道荡荡。”又曰：“大邦畏其力，小邦怀其德。”世宗近之矣！
噩耗传出，举国哀痛。报丧使到达金陵之时，江南国主李璟正在用餐，一听噩耗，筷子当时就掉在了地上，大哭道：“英主早逝，天命何其速也！”
周朝群臣遵照世宗皇帝柴荣遗诏，拥戴梁王柴宗训即皇帝位。时年，柴宗训尚不满七岁，史称后周恭帝。
柴宗训遵照柴荣遗命，以李重进为侍卫马步军都指挥使兼领淮南节度使；以韩通为侍卫马步军副都指挥使兼领郓州节度使；以向训为河南尹，充西京留守；以张永德为许州节度使，进封开国公；以赵匡胤为殿前都点检兼领宋州节度使、检校太尉，进封开国侯；以慕容延钊为殿前副都点检兼领澶州节度使、检校太傅，进封开国伯；以石守信为滑州节度使、检校太保，仍为殿前都指挥使……