夺权建隋
杨坚当上大丞相以后就开始了篡夺北周大权的计划。周皇室诸王有很多有实力的藩王，杨坚怕他们时刻会生变，以赵王宇文招（周武帝之弟）将要嫁女于突厥为名将他们召来京师长安，防止他们反抗。五月己酉日（6月22日[75]），宇文赟在天德殿病逝，时年二十二岁，谥号宣皇帝。之后周静帝拜杨坚假黄钺、左大丞相，百官皆听命于他。以正阳宫为丞相府，以郑译为长史，刘昉为司马，设置丞相府官僚。周宣帝时，刑政苛酷，人心崩溃而不归附，朝野没有坚定的志向。杨坚任大丞相后，施政宽和，精简严苛的法令，躬行节俭，天下之人心无不归附于他。[21]大象二年（580年）六月，北周宗室中有实力的赵王宇文招、陈王宇文纯、越王宇文盛、代王宇文达、滕王宇文逌都到了长安。相州总管尉迟迥自以为是北周的重臣宿将，看到杨坚擅政心中不平，于是举兵东夏。郧州总管司马消难、益州总管王谦相继起兵响应。赵、魏之士，跟从的人非常多，旬日之间，就聚集了十万兵马。又宇文胄以荥州、石愻以建州、席毗以沛郡、毗弟叉罗以兖州为根据地，都响应尉迟迥。杨坚命上柱国、郧国公韦孝宽出兵打败了尉迟迥，消灭了对自己有威胁的政敌。司马消难南逃于陈朝，王谦也被杀死。杨坚的这一胜利，稳定了内部的统治秩序。雍州牧毕王宇文贤及赵、陈等五王，看到杨坚平定了尉迟迥之乱，威望大增，图谋作乱。杨坚捉拿宇文贤将其斩首，宣布赵王等人的罪行，下诏五王剑履上殿，入朝不趋，来安定五王之心。接着便以谋反的罪名，先后杀掉了赵王宇文招、越王宇文盛、陈王宇文纯、代王宇文达、滕王宇文逌等、清除了鲜卑族中的反对力量。同时又拉拢元谐、元胄、宇文忻等部分鲜卑贵族。这样就使杨坚集团改朝换代的计划，不再受到任何阻碍。北周大定元年二月甲寅日（581年2月22日），杨坚由隋国公晋封隋王。同月甲子日（3月4日），北周静帝以杨坚众望有归下诏宣布禅让。杨坚三让而受天命，自相府常服入宫，备礼即皇帝位于临光殿，定国号为“隋”，改元开皇，宣布大赦天下。立王后独孤氏为皇后，王太子杨勇为皇太子。降周主为介国公，五月，杨坚派人害死宇文阐，谥号静帝，葬于恭陵。
统一南北
开皇二年（582年），隋文帝杨坚以长安城“凋残日久”，在城东南龙首山创建了一座新的都城，名叫大兴城。城内有东西二市，东市名都会，西市名利人。因系国都所在，“俗具五方，人物混淆，华戎杂错。去农从商，争朝夕之利，游手为事，竞锥刀之末”，成为当时最大的商业都市。隋文帝鉴于前此币制的混乱，铸造标准的五铢钱，禁用古钱和杂钱。五铢钱“所在流布，百姓便之”，使货币得到统一。开皇时，又规定以古尺一尺二寸为一尺，以古斗三升为一升，以古秤三斤为一斤，采冀州刺史赵煚所定的“铜斗铁尺”，颁行全国，度量衡也统一起来了。至于“除入市之税”，“罢酒坊，通盐池盐井，与百姓共之”，这都有利于商业的发展。
杨坚平定叛乱之后，统一天下的对手只剩下南方的陈朝和位于江陵一隅之地的西梁。开皇七年九月辛卯日（587年10月26日），废西梁后主萧琮，西梁亡。
开皇八年十月甲子日（588年11月22日），杨坚以晋王杨广出六合、杨俊出襄阳、杨素带领水军出永安，共五十一万八千大军，三路大军伐陈。
十二月杨素沿长江击破陈的沿江守军，顺流而东。但因为施文卿、沈客卿等扣留告急文书，导致陈朝无法把大军从建康调出。开皇九年正月丙子日（589年2月2日）陈将任忠引韩擒虎攻入建康城，捉住陈叔宝，陈朝灭亡。不久，各地陈军或受陈后主号令投降、或抵抗隋军而被消灭，只有岭南地区受冼夫人保境据守。开皇十年八月壬申日（590年9月21日），隋派使臣韦洸等人安抚岭南，冼夫人率众迎接隋使，岭南诸州悉为隋地。至此，天下一统。
开皇之治
统一全国后，杨坚励精图治，开创了辉煌的“开皇之治”。结束了西魏宇文泰的鲜卑化政策，将被改成鲜卑姓的汉人大臣以及府兵将领（以及其所辖府兵）恢复汉姓。另外，废除九品中正制，改为五省六曹制，后改称五省六部制。隋初经历南北朝长期的战乱，民生疲弊困苦，故杨坚接纳司马苏威建议，罢盐、酒专卖及入市税，其后多次减税，减轻人民负担，促进国家农业生产，稳定经济发展。杨坚在位时代之富饶既非重敛于民，究其原因，与全国推行均田制有关。此举既可增加赋税，又可稳定经济发展，且南朝士族亦渐由衰弱至于消逝。均田制能顺利推行，对隋前中期的经济发展收益甚大。加上隋代以关中作为本位，关中粮食短缺，需依赖关东漕运接济，故杨坚于洛州等地设立常平仓等官仓，贮存关东运来粮食，建广通渠，便利关中漕运。又于民间设义仓，人民捐纳粮食以防凶年。自开皇九年（589年）统一天下后，以富国为首要目标。轻徭薄赋以解民困。在确保国家赋税收入之同时，稳定民生。由于魏晋南北朝以来，户籍不清，税收不稳。于是于开皇五年（585年）下令实行大索貌阅。并接纳尚书左仆射高颎之建议，推行输籍法，作全国性户口调查，结果查获没有户籍的百姓达165万余口，其中丁壮44.3万人，以增加国家税收，改善经济，尽扫魏晋南北朝以来隐瞒户籍之积弊。
此外，杨坚安定政治，关陇集团的支持功不可没。汉人如郑译、刘昉、高颎等名臣有助推动国策。杨坚亦因前朝酷刑甚多，影响民生，故命苏威等人编纂《开皇律》，修订刑律，订立国家刑法，使人民有法可守，又减省刑罚，死刑只设绞、斩二等，以示隋朝对民之宽大。从隋前中期的人口增长就看得出杨坚的政治才能：开皇元年（581年）全国户口462万户，到隋炀帝大业五年（609年）达到8，907，536户，46，019，956人。其中在开皇九年（589年）南下平陈增50.0万，此时的全国户口700多万，平均年增长226，708户。