西魏大統七年（541年），楊堅出生。根據傳說，他出生時有祥雲出現。

楊堅身出名門，是東漢太尉楊震的後代。西魏大統三年（537年），其父楊忠随獨孤信一起投靠了西魏專權的宇文泰，深受宇文泰賞識。有了這樣的家族關系，楊堅的起點自然比很多同齡人要高出許多。他在專門為貴族子弟設立的學校裡讀過書，雖因成績不好而被諷刺為不學無術，但在14歲就開始了做官生涯。

　　楊堅的仕途一帆風順，14歲時被授予車騎大将軍的榮譽職銜，15歲時被授予散騎常侍、骠騎大将軍、儀同三司的榮譽職銜。557年，北周取代西魏。楊忠在此期間立下顯赫戰功，楊堅因父親的關系又得到晉升，被升為骠騎将軍兼開府。同年，明帝即位，又封他為大興郡公。

　561年，武帝即位，21歲的楊堅被任命為随州刺史。天和元年（566年），鮮卑大貴族、柱國大将軍獨孤信認為楊堅前途無量，便把自己14歲的七女兒嫁給了他，進一步提高了他的地位。

　　天和四年（569年），楊忠去世，楊堅繼承了随國公的爵号。在滅北齊的過程中，楊堅立下戰功，進封柱國；次年，出任定州總管，随後轉亳州總管。

　　楊堅并無突出的功績，地位卻扶搖直上，引起了其他人的嫉妒。有人蓄意除掉他，但楊氏家族以及獨孤家族的勢力對他起了保護作用，加上楊堅的長女又是武帝太子的王妃，根本沒用實力和機會來對付他。

　　同時，楊堅意識到了潛在的危險和威脅，在積極地做着準備。他利用已有的社會影響廣泛拉攏關系，不斷擴大自己的勢力。比如，他在做随州刺史時，已經與骠騎将軍龐晃結為了莫逆之交。楊堅在将要轉任亳州總管時，龐晃勸他就地起兵，建立帝王之業。楊堅很激動，表示時機未到。楊堅費盡心機，網羅到了一批得力幹将，如高煖、郭榮、宇文慶、李谔、窦榮定、李禮成、元孝矩、宇文忻等。

　　不過，楊堅是一個有耐性和韌性的人，一直保持着低調的作風。

　　齊王宇文憲對楊堅早有防範，曾對哥哥武帝講：“普六茹堅（其父楊忠被宇文泰賜姓普六茹氏）相貌非常，臣每見之，不覺自失。此人終非久居人下之輩，請早除為上，以免後患。”周武帝對楊堅多有庇護，不相信宇文憲的話。後來，武帝親近大臣王軌也密奏：“普六茹堅貌有反相。”武帝當時很不高興，沉默良久後表示：“假若天命有在，又能拿他奈何！”

　楊堅得到消息後，非常害怕。他盡力收斂自己的行為，做事更加畢恭畢敬。

　　579年，宣帝宇文赟即位。即位後，宣帝馬上下诏封楊堅這位國丈為大司馬，拜上柱國。剛做皇帝時，他對楊堅非常信任，每當自己出遊玩樂時要麼讓楊堅擔當心腹護衛，要麼令其鎮守京師。

　　當時，宣帝有很多美人。這些美人因争寵而經常诋毀，想把楊麗華從皇後的位子上趕下去。為此，這些美人及其家屬紛紛進言說楊堅有“圖謀不軌的不臣之心”，以至于周宣帝多次罵楊皇後：“一定要族滅你們楊家！”

　　楊堅在積極為代周做準備，也曾引起周宣帝的警覺。一次，周宣帝忽然想起楊堅有“反嫌”，立即派人召其入宮，并對左右衛士講：“如果楊堅入宮後神色驚惶，馬上就殺掉他。”

　　不料，楊堅入宮後行禮趨拜，一如平日，神色自若。周宣帝沒發現什麼異樣，就不了了之了。

　　楊堅對周宣帝的猜疑時時感到不安，認為長此下去，對自己必然不利。于是，為了逃避宣帝的猜疑，也為了在北周動亂時握有實力，楊堅準備暫時離開朝廷，掌握地方實權。

　　就在這時，周宣帝病重，楊堅稱自己“暴得足疾”，在京城伺察形勢。

　　劉昉、鄭譯（周宣帝的兩個寵臣）見周宣帝命不久矣，商議後共同拟定了一份假诏書，聲稱宣帝遺囑，讓楊堅以皇太後父親的身份總攬朝政，輔佐靜帝。當天，周宣帝一命歸天。劉、鄭二人沒有公開此事，矯诏以楊堅總領中外兵馬事。楊堅以诏書的名義控制了京師衛戍軍隊，基本控制了朝廷。

　　三天後，楊堅等人才宣布宣帝已死的消息，八歲的靜帝即位。楊堅被任命為假黃铖、左大丞相，掌握軍事、政治全權。

　　靜帝即位後，其叔父漢王宇文贊以皇叔身份入居禁中，常與楊堅同帳列坐，聽覽政事。楊堅覺得這個宗室很礙事，就指使劉昉讓他離開。劉昉送上幾個絕色美女，趁機對宇文贊說：“大王您乃先帝之弟，衆望所歸。少帝年幼，豈堪大事。您不如先回私第，等候佳音。待事甯之後，我們會迎您入宮做天子。”宇文贊當時隻是個十五六歲的好色少年，性識庸下，覺得劉昉好人好語，就相信了他的話，馬上攜美女、屬官出宮回府。這樣，楊堅排除了最近的潛在幹擾。

　其實，真正威脅楊堅的是已經成年并各居藩國的宇文泰的五個兒子：

　　宇文招，宇文泰第七子。西魏恭帝三年（556年），封郡公，三年後封趙國公。北周建德三年（574年）進爵為王，接着參加了武帝的伐齊戰争，官拜太師。

　　宇文純，宇文泰第九子。封陳國公，被任命為岐外刺史，加開府儀同三司。建德三年進爵為王，接着參加了周武帝的伐齊戰争，是第一次伐齊戰争的前三軍總管之一，也是第二次伐齊即滅齊戰争的先鋒官，官拜太傅。

　　宇文盛，宇文泰第十子。封越國公。北周天和中期進爵為王，也參加了伐齊、滅齊戰争。平北齊後，武帝在齊都都城設相州，他為首任相州總管。

　　宇文達，字文泰第十一子。封代國公。建德初任荊州刺史，建德三年進爵為王，出為益州總管。他是宇文泰諸子中不可多得的人才，性果決，善騎射，在州（荊州）有政績。

　　宇文遒，宇文泰第十三子。封滕國公。建德三年進爵為王。曾任北征稽胡、南代陳國的行軍元帥。

　　這五人既有實力，又有影響，—旦起兵，楊堅将很難控制局面，但楊堅的高明之處在于他能先人一步。在周宣帝剛死的時候，楊堅就矯诏征在外擁兵自重的宗室五王入京朝見，找借口收繳了他們的兵權印符。五王無奈，隻得回各自的京城王府。

　　這個時候，外間擁兵的周朝貴臣紛紛起兵，其中相州總管尉遲迥、青州總管尉遲勤、鄖州總管司馬消難以及益州總管王謙等數十萬大軍影響頗大，他們此起彼伏，遙相呼應。

　　危急時刻，楊堅本想派心腹劉昉、鄭譯出外監軍平叛，但此二人以各種理由推托。這時，府司錄高煖自告奮勇出戰，李德林表示願意堅持崗位，楊堅大喜，定下心神後派遣韋孝寬、梁士彥、宇文忻、崔弘度等名将到各處策劃、征讨。

　與此同時，在京師的周室諸王也積極行動起來。其中，趙王宇文招設宴邀請楊堅，欲伺機殺掉他。楊堅安全應付了這次鴻門宴，誣告宇文招謀反，假借靜帝的名義誅殺了宇文招及其他同謀者。其後，楊堅将五王一一除滅。

　　緊接着，楊堅宣布廢除宣帝時的嚴刑峻法，停止洛陽宮的修建，以此取得了軍民的廣泛支持。這時，楊堅在京師的統治已基本穩固。

　　接下來，楊堅着手鞏固自己在朝外的權力。他一方面利用自己已經取得的政治優勢拉攏地方将領，對敵對勢力進一步分化瓦解；另一方面繼續征戰，在半年的時間内平定了所有的地方武裝反抗。

　　楊堅見北周政局已經被自己所掌握，宣布自己由左丞相改任大丞相，廢左、右丞相設置，很快又改稱相國。同時，他讓自己的長子楊勇出任洛陽總管、東京小冢宰，監督東部地方勢力。不久，他由随國公改稱為位在諸侯王之上的随王，封獨孤氏為王後，楊勇為世子。他廢除了所有對漢人的賜姓，令其各複本姓，這一措施得到漢人的普遍擁護，對他的統治起到了進一步鞏固的作用。

　　大象三年（581年）正月，楊堅見時機已到，派人為靜帝寫退位诏書，内容主要是叙述他的功德，希望他按照舜代堯、曹丕代漢獻帝的故事，接受皇帝稱号，代周自立。

　　诏書做好後，由朝廷大臣到随王府送給楊堅。楊堅假意推辭，在朝廷百官的再三懇求下才同意接受。楊堅穿戴上早已準備好的龍袍，在百官簇擁下坐上皇帝的寶座。楊堅把爵位“随”設為國号，變“随”為“隋”，改元開皇，以長安為首都。

　　打擊突厥收複江南

　　楊堅稱帝後，面臨着兩個問題：突厥勢力和南朝勢力。權衡輕重後，他決定先對付突厥。大臣長孫晟上書說：“玷厥和沙缽略的力量不相上下，但前者的地位不及後者，他們之間存在着矛盾。隻要稍稍鼓動一下達頭可汗，他倆就會打起來。”沙缽略可汗的弟弟處羅侯（後稱葉護可汗）在當時因勢力小沒有當上可汗，于是與沙缽略面和心不和。另外，阿波可汗也不是真心擁護沙缽略可汗。

　長孫晟建議采取遠交近攻的策略，首先派使者與達頭結交，聯絡阿波可汗和處羅侯。如此一來，沙缽略為了鞏固自己的地位，勢必左右分兵防守，隋朝便可伺機把他們一舉消滅。

　　長孫晟，河南洛陽人。自幼聰明，武藝出衆，十八歲時做了北周司衛上士。北周宣帝大成元年（579年），他護送千金公主入突厥成親，因精于騎射而深受沙缽略可汗的賞識。長孫晟在突厥住了一年之久，沙缽略可汗讓子侄跟他學習騎射。

　　長孫晟是個有心人，他利用與突厥子弟外出狩獵的機會仔細觀察突厥的地形，并默記于心。同時，在與突厥子弟交往的過程中，他又詳細了解了突厥各部落的具體情況。所以，他的上書引起了楊堅的重視。

　　楊堅看完奏疏後非常高興，馬上召來長孫晟。長孫晟來到後，一邊給楊堅解釋當地的風土人情，一邊随手畫出了突厥的地形圖。楊堅采納了長孫晟的建議，決定派太仆元晖聯絡達頭可汗。

　　元晖，字叔平，河南洛陽人，與長孫晟是同鄉。北周武帝娶突厥女為皇後時，元晖多次來往于北周與突厥之間，與突厥人交好，後官至司憲大夫、太仆。

　　元晖一到達頭可汗的駐地伊吾道（今新疆哈密），就代表隋朝贈送禮品。達頭可汗随即派使臣到長安與隋結盟，雙方開始保持聯系。沙缽略可汗得到這個消息後，立即派使臣前往長安探聽虛實。

　　當時，達頭可汗和沙缽略的使臣一同上殿拜見楊堅。為了離間達頭可汗和沙缽略的關系，楊堅故意讓達頭可汗使者坐在上位。沙缽略可汗遂對達頭可汗起了疑心，分遣軍隊攻打達頭可汗。

　　緊接着，楊堅又派長孫晟聯絡處羅侯，實施離間處羅侯與沙缽略可汗的計劃，這一行動又取得了成效。

　　早在長孫晟送千金公主入突厥時，處羅侯非常欽佩長孫晟的才幹，與長孫晟建立起了密切的關系，并有了密約。長孫晟到達處羅侯的地盤後，表示隋朝會支持他争奪汗位，也希望他實踐從前的誓言，與隋朝同心合力，攻打沙缽略。

　　楊堅稱帝後，就有統一江南的意向。但由于隋朝政權剛剛建立，并不穩固，他隻有集中力量先對付突厥。楊堅雖然對陳朝采取了守勢，但并沒有放松對陳朝的滲透。每次抓獲陳朝派來的奸細後，他皆給以衣服馬匹，以禮遣回。

在此期間，陳宣帝不斷派軍隊蠶食隋朝西起江漢、東至浒墅的廣大地區。這個地區的地理位置十分重要，在南北朝時期曾是周、齊、陳争奪的主要區域。換句話說，這裡是兵家必争之地，曾幾易其主。

　　北周大象二年（580年），陳宣帝亦欲乘中原大亂之機收複失地——淮南，任命大将任忠攻曆陽（今安徽和縣），由東路向北進犯。

　　蘇北淮南地區背靠長江天險，又以南岸陳本土為依托。一旦被陳朝攻破，陳兵便可以随時圖謀隋朝的中原地區。另外，如果突厥北起，陳軍南犯，楊堅就會腹背受敵。

　　為了解除後顧之憂，楊堅決定趁陳立足未穩而先發制人，把陳軍趕回長江南岸。

　　開皇元年（581年）九月，楊堅遣将調兵，命上柱國長孫覽、元景山準備伐陳，讨伐大軍由内尚書左仆射高煖節制。次年二月，元景山領西路軍，長孫覽領東路軍，開往淮南。元景山占領了甑山、沈陽（今湖北漢陽附近）；長孫覽出壽陽，水陸齊進，陳朝守軍棄城而逃，東路軍多不戰而勝。

　　兩路隋軍大獲全勝，奪回江北淮南地區，楊堅的初步戰略目标已經達到。開皇元年（581年）十二月，突厥大軍南犯隋朝邊境。為避免兩線作戰，楊堅決意中止對陳戰争，盡快把主力調回，集中力量對付突厥。

　楊堅雖然想撤軍，但卻沒有一個合适的理由來向陳朝掩飾自己的戰略意圖和穩定隋軍軍心。恰在此時，陳宣帝病死，陳朝遣使言和。開皇二年（582年）二月十五日，楊堅順水推舟，以“禮不伐喪”的理由撤軍北移。