杨一清的祖先来自云南安宁，到了他父亲杨景那一代，杨景从化州同知职位退休后，便携带年幼的杨一清一同迁居巴陵。杨一清自小聪慧过人，年幼时便能写作文章，被人誉为奇才，进而推荐他成为翰林秀才。那时，宪宗皇帝命内阁选拔师资专门辅导他学习。

杨一清勤奋好学，在十四岁时成功通过了乡试，随后又在成化八年取得了进士功名。父亲去世后，葬于丹徒，杨一清便将家迁安于此地。守丧结束后，他入仕为中书舍人，经过一段时间，晋升为山西按察佥事，并以副使身份被派往陕西担任督学。

尽管杨一清相貌丑陋，且先天生殖器官不全，从外观来看酷似宦官，但他天资聪颖，善于思考国家大事，特别热衷于探讨经世济民的政策。在陕西任职的八年间，他利用闲暇时间详细考察边疆局势，积累了丰富经验。

后来，杨一清被调回朝廷，任太常寺少卿，后升任南京太常寺卿。到了弘治十五年，孝宗皇帝采纳刘大夏的推荐，将他提拔为都察院左副都御史，派遣他前往陕西负责马政事务。彼时西部的番国本来盛产马匹，而中国的茶叶对他们来说则是防治疾病的良药。太祖皇帝时期曾颁布法令，用四川茶叶换取番国马匹以供军用。

然而，随着时间推移，禁令逐渐松弛，不法商贩私运茶叶出关，牟取暴利，番国的马匹供应也日渐中断。杨一清上任后严厉禁止私茶外流，将茶叶贸易收益全部收归官府，以此控制番国，使马匹供应恢复畅通。同时，他揭发并罢免了贪腐无能的总兵官武安侯郑宏，裁减镇守宦官的冗余开支，军纪因此大为改观。

武宗皇帝刚登基时，固原遭遇数万贼寇入侵，总兵曹雄军队被困音讯全无。杨一清率轻骑兵从平凉昼夜兼程赶赴前线，亲自筹划指挥，布置疑兵，成功迫使敌军改道隆德。夜间他又点发大炮，声震山谷，令贼寇误以为有大军来袭，纷纷逃至边塞外。

不久后，杨一清被升为右都御史，提议加强边防建设，他在奏章中指出：自己多年任职陕西，熟悉敌我形势。贼寇往往虚张声势，来去迅速，我方却因军队调动频繁扰民，防守反而疲弱。故应修筑城墙壕沟，增设卫所，稳定内附番人，修缮韦州以防御敌侵。更重要的是应守卫东胜，依托黄河天险，连接大同和宁夏，开垦河套地区，屯田数百万亩，减少外运补给，筑牢边防。

武宗皇帝采纳建议，拨款数十万两修筑防护墙。然当时权倾一时的宦官刘瑾忌恨杨一清不肯归附，杨一清无奈以病辞官归乡。后来防护墙只筑成四十里要塞，刘瑾借机诬陷杨一清贪污浪费，令其入锦衣卫监狱。大学士李东阳、王鏊积极营救，杨一清才被释放，却仍被罢官回乡，且被扣发禄米达六百石之多。

安化王发动叛乱，朝廷命杨一清率军与总兵神英西讨，宦官张永监督军务。军队尚未到达，原部将仇钺已生擒安化王。杨一清即赶至仇钺兵营，慰问劳苦将士。不久张永也至，两人共事甚欢。杨一清知道张永与刘瑾结怨，遂借机直言不讳：“平定叛贼易，国中隐患更难除。”张永问指谁，杨一清在手心画“瑾”字。张永叹息道：“刘瑾依仗皇上宠信，门生故旧甚众，难以根除。”

杨一清劝张永趁胜向皇上奏捷，揭发刘瑾恶行，申明天下怨声载道。张永感动发誓以命报国，最终依计成功诛杀刘瑾。此后，张永对杨一清感激不已，在朝中为其奔走推荐。杨一清很快被召回，任户部尚书，功绩被评定，封太子少保，得赏银一笔。不久改任吏部尚书。

杨一清为官通达、干练，心胸宽广，热爱贤士，积极提拔人才，凡被刘瑾陷害者多得重用。他提拔人才快捷，早上得知者，当日推荐，门生遍布天下。两度在关中带兵，所提小将多升至大将或封侯。有人送礼谢恩，杨一清往往转赠他人。

因镇压多次叛乱大盗有功，杨一清被加封少保、太子太保，子嗣享锦衣百户封号。又被推荐入内阁为阁员，然武宗皇帝未用他，而任尚书靳贵，却晋升他为少傅、太子太傅。给事中王昂上书指责杨一清扶植私党，武宗皇帝贬王昂。杨一清亦上书请求宽恕王昂，皇帝仅轻描淡写回应“知道了”。

直到大学士杨廷和守丧后，武宗皇帝才任命杨一清兼任武英殿大学士，纳入内阁参与机密事务。宦官张永因罪罢官，其干儿子钱宁权倾朝野。钱宁曾倾心杨一清，后因中间人挑拨，心生怨恨。

灾害频发时，杨一清上书自省，批评时政，言及有人谎言迷惑皇帝，朝廷内混杂武夫，京城无可靠屏障。此言明显指向武宗宠信奸佞，武宗不甚理解。钱宁与江彬等得讯后大怒，利用戏子造谣中伤杨一清。

杨一清遂请求退休，武宗皇帝口头表扬但允许其归隐，并按规定供给仆役禄米。后来武宗南征时曾访杨府，君臣畅饮两昼夜，赋诗唱和数十次。期间杨一清劝阻武宗皇帝，促使其取消江浙行程。

嘉靖皇帝尚为世子时，其父献王曾言：“楚地三杰，刘大夏、李东阳、杨一清。”此言铭刻嘉靖心中。登基后，大臣纷纷推荐杨一清，嘉靖皇帝派官赠银慰问，催促其上书献策。杨一清谢恩，获特别赏赐子嗣中书舍人一职。

嘉靖三年十二月二十八日，嘉靖皇帝诏令杨一清以少傅、太子太傅身份转任兵部尚书、左都御史，兼管陕西三边军事。明代首位由内阁首辅兼任边疆将帅即由他开创。嘉靖帝在诏书中温和赞扬杨一清，誉其为唐代郭子仪。

此时杨一清已是第三次出任总制，士兵士气高涨。他常带军官演习阵法，曾言：“无战时当如有战，战时应如无事，镇定自若。”当张璁等人排挤费宏时，御史吉棠请召杨一清入阁，给事中章侨、御史侯秩为其辩护，嘉靖帝贬侯秩，召杨一清为吏部尚书、武英殿大学士。

入朝觐见后，杨一清加少师衔，仍兼太子太傅，创下先例。不久，《献皇帝实录》完成，皇帝将其升为太子太师、谨身殿大学士。杨一清谦辞未参与编纂，皇帝未允。

王宪奏捷，归功杨一清，赐特进左柱国、华盖殿大学士称号。此时费宏已去职，杨一清理所当然成为内阁首辅。嘉靖皇帝赐他两枚银章，刻“耆德忠正”与“绳愆纠违”，让其密封奏折上书。

《明伦大典》成书后，杨一清获正一品俸禄。张璁与桂萼排挤费宏，期盼杨一清助力，然而杨却请召谢迁归朝，令二人心生怨恨。谢迁未到，张璁已进内阁，改变诸多政务。杨一清依例对张璁稍作制约，遭其与同党不满。

张璁暗中诋毁杨一清，唆使黄绾排挤，杨一清辩解后请辞，嘉靖皇帝调停。后因灾害，杨上书劝戒百官同心，并请赦免曾议礼大臣罪责，激怒张璁。桂萼入阁后与张璁联手攻击杨一清，杨屡次请求解职，嘉靖皇帝多次温和嘉奖。

给事中王准、陆粲揭发张璁、桂萼权钱交易，嘉靖帝罢免二人并公开罪状。张桂党羽霍韬大骂杨一清受张永、萧敬贿赂。杨再次申辩请辞。嘉靖安慰挽留，复征召张璁。霍韬加剧攻击，指控法司受杨操纵诬陷桂萼。

嘉靖帝震怒，命法司与朝臣议事，先调刑部尚书周伦，令侍郎许赞代任。许赞调查后认同霍韬指控，奏请剥夺杨一清官籍，皇帝命其自辩。张璁三度密奏，称杨有“大礼”功劳，请赐长假，实为逼其退隐。

嘉靖帝遂允杨退休，由驿站送归，仍赏赐金币。次年，张璁等迅速罗织罪名，皇帝剥夺杨官职，令其家居。杨愤恨曰：“我年迈，竟被这些小人卖了！”忧愤成疾，背生毒疮，不久辞世。

临终，杨一清申明遭诬陷，死亦难安。嘉靖帝免其贪污罪责，不再追究。数年后恢复原职，久后追赠太保，谥号文襄。