赵匡胤为涿郡人 [3]  ，于后唐天成二年二月十六日（927年3月21日）生于洛阳夹马营（今河南省洛阳市瀍河区东关） [1]  [2]  。他出身军人家庭，高祖赵朓，在唐朝官至幽都（今北京）县令；曾祖赵珽，于唐朝任御史中丞；祖父赵敬，历任营、蓟、涿三州刺史。赵匡胤为赵弘殷（宋宣祖）次子，长兄赵匡济早夭，母亲为杜氏（昭宪太后）。 [7] 

后汉初年，赵匡胤游历四方，寓居襄阳的一座寺庙，得到一个精通数术的老和尚的劝导，往北出发，于乾祐元年（948年）投身后汉枢密使郭威帐下，随郭威征讨河中节度使李守贞叛乱，屡立战功。 [7] 

广顺元年（951年），郭威称帝，建立后周，赵匡胤补任东西班行首，拜滑州副指挥使。广顺三年（953年），郭威养子柴荣（后周世宗）为开封府尹，赵匡胤转为开封府马直军使。显德元年（954年），柴荣即位，擢升赵匡胤执掌禁军。此年，北汉、契丹联军入侵，柴荣御驾亲征，在泽州高平之南的巴公原（今山西晋城巴公镇）与北汉军遭遇。大战展开时，右军樊爱能、何徽部不战遁溃，局势十分危急。在此关头，赵匡胤振臂高呼：“主上面临险境，我等当拼死一战！”又请禁军大将张永德率弓箭手抢占左边高地。赵、张二人各率精兵两千，左右夹击，以死拼杀，加上柴荣亲临督战，士气大振，最终大破北汉军 [8]  。赵匡胤随军乘胜攻北汉都城太原，焚烧城门，左臂被流箭射中，柴荣制止他再攻城。回师后，赵匡胤被任命为殿前都虞候，领严州（今广西来宾东南，时为南汉辖地）刺史，虽是加衔，但已属中高级将领。十月，又升领永州（今湖南永州，时为武平军辖地）防御使。 [9] 

赵匡胤作为殿前司副长官，参与柴荣对殿前司的整顿，组建新的殿前司所属诸班直及龙捷（马军）、虎捷（步军）、铁骑、控鹤等诸禁军，殿前司所属禁军遂成为后周最精锐的军队。殿前司地位虽低于统辖大部分禁军的侍卫亲军司，但它所统辖的禁军是皇帝的亲卫军，赵匡胤成为柴荣的亲信将领之一。 [10] 

显德三年（956年）春，赵匡胤跟随柴荣征伐淮南，首战便在涡口（今安徽怀远东北）打败南唐军万余人，斩杀南唐兵马都监何延锡等人。南唐奉化军节度使皇甫晖、常州团练使姚凤率领号称十五万的军队，驻扎在清流关（今安徽滁州西郊关山中段），赵匡胤率军将其击败。赵匡胤追到城下，皇甫晖请布阵决胜，赵匡胤笑着同意。皇甫晖摆好阵式出战，赵匡胤抱着马脖子直冲南唐阵内，砍中皇甫晖的脑袋，将其与姚凤一同擒获。定武军节度使韩令坤攻下扬州，南唐军又来争夺，韩令坤主张退兵，柴荣命令赵匡胤率兵二千赶往六合。赵匡胤下令说：“扬州兵敢有过六合的，砍断他们的脚。”韩令坤才固守扬州。赵匡胤不久在六合东面打败南唐齐王李景达，斩杀一万多人。回师后，赵匡胤被任命为殿前都指挥使，不久又被加授为定国军节度使。 [11] 

显德四年（957年）春，赵匡胤跟随柴荣出征寿春，攻克连珠寨，乘势攻下寿州。回师后，柴荣又拜他为义成军节度使、检校太保，仍任殿前都指挥使。此年冬，赵匡胤跟随柴荣征伐濠州、泗州，充当前锋。此时，南唐在十八里滩扎寨，柴荣刚刚商议用骆驼摆渡军队时，而赵匡胤已率先单骑横渡而过，他的部下骑兵也紧随他渡过了河，因而攻破南唐军寨。又用缴获的南唐战舰乘胜攻克泗州。南唐在清口驻军，赵匡胤随柴荣两翼分兵沿淮河东下，连夜追到山阳，擒获南唐都应援使陈承昭，次年正月攻下楚州。柴荣南下扬州，赵匡胤乘胜在迎銮江口、瓜步（今江苏扬州南）连破南唐军。此后，南唐被迫求和，割江北与后周，柴荣罢兵北归。赵匡胤在此役中奋勇作战，于五月移领忠武军节度使。 [10]  [12] 

显德六年（959年），柴荣北伐，赵匡胤担任水陆都部署。到达莫州，先到瓦桥关，守将姚内斌投降；又打退几千名契丹骑兵，关南平定。柴荣在行军路上，审阅各地所上文书，得到一只皮口袋，袋中有一块三尺多长的木板，上面写着“点检作天子”，柴荣感到这件事十分奇怪。当时张永德任殿前都点检，柴荣卧病回京，命赵匡胤任检校太傅、殿前都点检，以接替张永德。同年，柴荣驾崩，年仅七岁的柴宗训（后周恭帝）继位，赵匡胤改任归德军节度使、检校太尉。