杨素（544—606年），字处道，出生于关中士族弘农杨氏的核心地——华阴县（今陕西华阴）。他在北周、大隋时期既是著名的军事家，也是深具权谋的宰相，同时还是才情横溢的诗人。出身显赫的杨素，自小便承载着家族的厚望：祖父杨暄官至北魏辅国将军、谏议大夫，父亲杨敷则为北周汾州刺史，家学渊源，文化底蕴丰厚。北周时期，杨素从基层文职起步，历任中外府记室、礼部下大夫、大都督，后来更是步步高升，官至车骑大将军、仪同三司。

坊间流传杨素与隋文帝杨坚是亲兄弟，这其实是后人附会。事实上，他们只是同姓同乡，皆出自弘农郡华阴，但杨坚为汉太尉杨震十四世孙，兼有鲜卑血统，其父杨忠为西魏、北周的军事世家。北周武帝时，杨坚封随国公，鲜卑赐姓普六茹，幼名那罗延。掌权后，他才恢复杨姓。若追溯到汉太尉杨震的共同先祖，也可以说他们是远房宗亲，但关系相隔甚远，不必过分考究。

杨素自幼便非凡出众，容貌堂堂，性情不拘小节，志向远大，酷爱学问，博览群书。他与当时名士牛弘志趣相投，虽年少，却已显露过人的胸襟与抱负。杨素的堂叔祖、当时西魏尚书仆射杨宽曾感叹：处道非凡人，他日必能出类拔萃，无人能及。果然，长大后的杨素被北周大冢宰宇文护慧眼识中，起用为中外记室，逐步升迁至礼曹尚书及大都督，官职节节攀升。

北周天和七年（572年）三月，武帝宇文邕诛杀权臣宇文护，自掌朝政。因曾受宇文护重用，杨素一度被株连。父亲杨敷守汾州抗敌北齐，英勇殉国，却未获追封。杨素上书为父申冤，触怒武帝，竟险遭斩首。面对生死，杨素毫不畏惧，高声道：臣侍奉无道之君，死乃自然之事。武帝见其胆识非凡，反而破格提拔，授以车骑将军、仪同三司，并追赠其父大将军，谥号忠壮。一次武帝命其起草诏书，杨素挥笔如神，文辞华丽，武帝赞叹不已，但杨素却坦然回答：臣只怕富贵逼臣，臣无心谋取荣华。

建德四年（575年）七月，宇文邕亲征北齐，杨素随军出征，请率父旧部为先锋，获武帝准许，并赐一竹鞭象征权柄：我正要驱使天下，你便是我的鞭。杨素在河阴与齐军交战，战功卓著，封清河县子，食邑五百户，并任司城大夫。随后，他多次随武帝征战，屡建奇功，逐渐成为北周名臣名将。北周宣帝大象元年（579年），杨素随上柱国韦孝宽攻淮南，独立率军攻克盱眙、钟离。大象二年（580年），相州总管尉迟迥造反，恰逢北周宣帝病逝，幼帝周静帝登基，由外祖父杨坚掌权，杨素受命平叛，战功显赫，得杨坚赏识。

杨坚赏识杨素，有数个原因：首先，两人同乡、家世显赫，少年时便相识，彼此欣赏，杨坚看中杨素胆识与用兵才能，杨素亦赞赏杨坚的领导力。其次，杨素用兵如神，从北周攻灭北齐、征突厥、平定陈国到隋朝水师讨陈，每次战功赫赫，杨坚自然信任。再者，杨素善于揣摩人心，行事低调、谨慎而又高效，尤其抢在杨坚决策前完成任务，令人印象深刻。此外，杨素八面玲珑，暗中讨好杨坚妻子独孤伽罗，特别关照次子杨广，逐渐赢得独孤氏信赖，从而稳固自己在朝中地位，后借助此手段排挤了杨坚原先宠信的高颎，坐上相位。

杨素任汴州刺史途经洛阳时，得知尉迟迥等举兵反杨坚。尉迟迥为北周文帝外甥，地位显赫。杨坚派其子尉迟惇赴诏书，借悼北周宣帝之名召父，另命韦孝宽赴相州取代尉迟迥。大象二年夏六月，尉迟迥谋反，荥州刺史宇文胄响应，阻杨素前行。七月，杨坚调关中兵平叛，杨素任大将军，率河内兵击败宇文胄，平定荥阳，后改任徐州总管，进位柱国，封清河郡公，邑二千户，其弟杨岳袭封临贞公。 北周大定元年（581年），隋文帝杨坚受禅登基，杨素被加封上柱国，参与隋朝法律修订。杨素妻郑氏性格强悍，一次争执中，杨素无意说出若当天子，绝不让你做皇后，被妻告发，险些获罪。虽被免职，但他并未消沉，多次献计伐陈，隋文帝仍加以信任。开皇五年（585年）冬，杨素任信州总管，负责建造长江上游战船五牙、黄龙，一船可容八百兵士，训练水师，为灭陈做准备，任务圆满完成。 开皇八年（588年）三月，隋文帝发布檄文，列陈后主罪状二十条，十月在寿春设淮南行台，由晋王杨广任尚书令、元帅，杨素、杨俊为行军元帅，率50余万隋军分八路攻陈。杨素主导水军作战，从巴东顺江而下，与南陈大将戚昕交战，暗令部将夜袭陆军，切断栏江铁索，攻开水营，顺江船队直击南陈大营，戚昕狼狈撤退。杨素安抚投降陈军，瓦解敌军抵抗，次年正月，顺江而下，江面上战船铺天盖地，旌旗闪耀，杨素端坐船上，威仪雄健，令陈军望而生畏，被誉为长江之神。战后，封郢国公，子杨玄感、杨玄奖亦获封赏。 隋灭陈后，南方豪族因政策受限、传闻流言起兵反隋。开皇十年冬，婺州人汪文进、越州人高智慧、苏州人沈玄侩等自称天子起兵，其他叛乱如李忮、蔡道人、沈孝彻、王国庆等亦随之响应，叛军规模从数千至数万不等，残杀官吏，局势险峻。杨坚命杨素为行军总管，率军平定叛乱，显示了他在隋朝初期稳定政权中的关键作用。