史载杨坚出自关中高门弘农杨氏，自称是东汉太尉杨震十四世孙，其四世祖杨元寿被北魏任命为武川镇司马。
其父杨忠跟随北周文帝宇文泰起义关西，因功赐姓普六茹氏，官至柱国、大司空，封随国公。
死后追赠太保，谥号桓。不过据陈寅恪的考证，杨坚家族可能是山东寒族，其弘农杨氏的身份应出于伪托；而所谓杨元寿留镇武川亦是宇文泰为笼络部下感情而虚构之事。
西魏大统七年六月癸丑夜，杨忠之妻吕氏于冯翊般若寺生下了杨坚，据说当时紫气充庭，《隋书》记载。
当时有一个尼姑对吕氏说，杨坚此人不可与常人一样抚养，所以尼将杨坚带到别馆，亲自抚养，幼年的杨坚为人深沉少言，刚刚进入太学的时候，即使是十分亲密的人也不敢戏弄。
西魏恭帝二年杨坚十四岁时，京兆尹薛善征辟他为功曹，翌年因为其父杨忠的功劳被授为散骑常侍、车骑大将军、仪同三司，封成纪县公。
西魏恭帝四年封为骠骑大将军，加开府，北周武成元年北周明帝即位，授杨坚为右小宫伯，进封大兴郡公。
武成二年周武帝宇文邕即位，杨坚任小宫伯，出任为随州刺史，进位大将军。后来被调任京城，在其母身边侍疾三年，昼夜不离左右，都称他纯孝。
当时宇文护执掌朝政，非常忌惮杨坚，多次想要谋害他，幸而有大将军侯伏、侯寿等人的保护才得以幸免。
天和三年父亲杨忠死后，杨坚承袭随国公的爵位，周武帝聘杨坚的长女杨丽华为皇太子妃，对杨坚更加礼重。
齐王宇文宪曾对武帝说普六茹坚相貌非常，我每次见到他，都不觉自失，我怕他不会久居人下，要早早地除掉他。
武帝说杨坚此人只可以作为一个将领，内史王轨突然对武帝说皇太子赟将来并非社稷之主，普六茹坚貌有反相。
武帝十分不悦说帝王自有天命在，旁人又能奈何，杨坚知道后十分畏惧，行事小心谨慎，以韬光养晦。
建德四年杨坚率水军三万，于河桥大败北齐的军队，建德五年杨坚跟从周武帝亲征平齐，进位为柱国，与齐王宇文宪一起在冀州大破齐任城王高湝，被封为定州总管，很快又转任亳州总管。
宣政元年六月周武帝宇文邕死后，太子宇文赟即位，杨坚的长女杨丽华被封为皇后，杨坚因为是皇后之父又晋升为柱国大将军、大司马。
大象初年，杨坚官任大后丞、右司武，很快转任大前疑，周宣帝每次外出巡幸，都让杨坚在朝内留守，当时周宣帝制定《刑经圣制》，法令极其严苛。
杨坚因为法令严酷，不是教化约束臣民的好办法，向周宣帝强烈进谏，周宣帝不听。
杨坚的地位和威望日益做大，周宣帝十分忌惮，周宣帝有四位宠幸的姬妾，与杨丽华一起为皇后，诸家争宠，相互诋毁对方。
周宣帝发怒之时，对皇后杨丽华说一定要将你家灭族，于是召杨坚入宫，对左右侍卫说杨坚的脸色稍有变化，就杀了他。
不料杨坚到了宫内，神情和脸色自若，于是周宣帝没能杀了他。
最后，杨坚想出了两全之策，通过内史上大夫郑译向宇文赟透露出自己久有出藩之意，这正合宇文赟的心意，当即任命他为亳州总管。
这样宇文赟放心了，杨坚也安心了，他将任亳州总管时，庞晃劝他就此起兵，建立帝王之业，杨坚握着庞晃的手说时机还不成熟啊，至此杨坚取周自代的愿望溢于言表。
周宣帝宇文赟自幼生长于宫内，不问朝政，沉溺酒色，满朝文臣武将敢怒而不敢言，宇文赟不但不听忠臣劝告，反而觉得这皇帝当得太不称心如意。
大成元年二月十九日，宇文赟下诏传位于长子宇文阐，并改年号为大象，自称天元皇帝，住在后宫，终日与嫔妃宫女们吃喝玩乐。
大象二年五月以杨坚为扬州总管，以筹备伐陈事宜，将要出发的时候，突发足疾，没有立即出发，同年五月，周宣帝病危。
御正下大夫刘昉、内史上大夫郑译伪造诏书，让随国公杨坚接受遗命，辅佐朝政。
杨坚当上大丞相以后就开始了篡夺北周大权的计划。周皇室诸王有很多有实力的藩王，杨坚怕他们时刻会生变，以赵王宇文招将要嫁女于突厥为名将他们召来京师长安，防止他们反抗。
宇文赟在天德殿病逝，时年二十二岁，谥号宣皇帝，之后周静帝拜杨坚假黄钺、左大丞相，百官皆听命于他。
他以正阳宫为丞相府，以郑译为长史，刘昉为司马，设置丞相府官僚，周宣帝时，刑政苛酷，人心崩溃而不归附，朝野没有坚定的志向。
杨坚任大丞相后，施政宽和，精简严苛的法令，躬行节俭，天下之人心无不归附于他。
大象二年六月北周宗室中有实力的赵王宇文招、陈王宇文纯、越王宇文盛、代王宇文达、滕王宇文逌都到了长安。
相州总管尉迟迥自以为是北周的重臣宿将，看到杨坚擅政心中不平，于是举兵东夏，郧州总管司马消难、益州总管王谦相继起兵响应。
赵、魏之士，跟从的人非常多，旬日之间，就聚集了十万兵马，又宇文胄以荥州、石愻以建州、席毗以沛郡、毗弟叉罗以兖州为根据地，都响应尉迟迥。
杨坚命上柱国、郧国公韦孝宽出兵打败了尉迟迥，消灭了对自己有威胁的政敌，司马消难南逃于陈朝，王谦也被杀死，杨坚的这一胜利，稳定了内部的统治秩序。
雍州牧毕王宇文贤及赵、陈等五王，看到杨坚平定了尉迟迥之乱，威望大增，图谋作乱。
杨坚捉拿宇文贤将其斩首，宣布赵王等人的罪行，下诏五王剑履上殿，入朝不趋，来安定五王之心。
接着便以谋反的罪名，先后杀掉了赵王宇文招、越王宇文盛、陈王宇文纯、代王宇文达、滕王宇文逌等、清除了鲜卑族中的反对力量。
同时又拉拢元谐、元胄、宇文忻等部分鲜卑贵族，这样就使杨坚集团改朝换代的计划，不再受到任何阻碍。