皇甫嵩字义真，安定朝那人，度辽将军规之兄子也。父节，雁门太守。嵩少有文武志介，好《诗》《书》，习弓马。初举孝廉、茂才。《续汉书》曰：“举孝廉为郎中，迁霸陵、临汾令，以父丧遂去官。”太尉陈蕃、大将军窦武连辟，并不到。灵帝公车征为议郎，迁北地太守。
初，钜鹿张角自称“大贤良师”，“良”或作“郎”。奉事黄老道，畜养弟子，跪拜首过，首音式受反。符水咒说以疗病，病者颇愈，百姓信向之。角因遣弟子八人使于四方，以善道教化天下，转相诳惑。十余年闲，众徒数十万，连结郡国，自青、徐、幽、冀、荆、杨、兖、豫八州之人，莫不毕应。遂置三十六方。方犹将军号也。大方万余人，小方六七千，各立渠帅。讹言“苍天已死，黄天当立，岁在甲子，天下大吉”。以白土书京城寺门及州郡官府，皆作“甲子”字。中平元年，大方马元义等先收荆、杨数万人，期会发于邺。元义数往来京师，以中常侍封谞、徐奉等为内应，约以三月五日内外俱起。未及作乱，而张角弟子济南唐周上书告之，于是车裂元义于洛阳。灵帝以周章下三公、司隶，使钩盾令周斌将三府掾属，案验宫省直卫及百姓有事角道者，诛杀千余人，推考冀州，逐捕角等。角等知事已露，晨夜驰来诸方，一时俱起。皆著黄巾为摽帜，帜音尺志反，又音试。时人谓之“黄巾”，亦名为“蛾贼”。蛾音鱼绮反，即“蚁”字也。谕贼众多，故以为名。杀人以祠天。角称“天公将军”，角弟宝称“地公将军”，宝弟梁称“人公将军”，所在燔烧官府，劫略聚邑，州郡失据，长吏多逃亡。旬日之闲，天下向应，京师震动。
诏来州郡修理攻守，简练器械，自函谷、大谷、广城、伊阙、轘辕、旋门、孟津、小平津诸关，并置都尉。大谷、轘辕在洛阳东南，旋门在汜水之西。召群臣会议。嵩以为宜解党禁，益出中藏钱、西园厩马，以班军士。帝从之。于是发天下精兵，博选将帅，以嵩为左中郎将，持节，与右中郎将朱俊，共发五校、三河骑士及募精勇，合四万余人，嵩、俊各统一军，共讨颍川黄巾。
俊前与贼波才战，战败，嵩因进保长社。波才引大众围城，嵩兵少，军人皆恐，乃召军吏谓曰：“兵有奇变，不在觿寡。《孙子兵法》曰：“凡战者，以正合，以奇胜者也。故善出奇，无穷如天地，无竭如江海。战势不过奇正。奇正之变，不可胜也。”今贼依草结营，易为风火。若因夜纵烧，必大惊乱。吾出兵击之，四面俱合，田单之功可成也。”田单为齐将，守即墨城。燕师攻城，田单取牛千头，衣以五采，束矛盾于其角，系火于其尾，穿城而出，城上大噪，燕师大败。事见《史记》。其夕遂大风，嵩乃约来军士皆束苣乘城，苣音巨。《说文》云：“束苇烧之。”使锐士闲出围外，纵火大呼，城上举燎应之，嵩因鼓而奔其陈，贼惊乱奔走。会帝遣骑都尉曹操将兵适至，嵩、操与朱俊合兵更战，大破之，斩首数万级。封嵩都乡侯。嵩、俊乘胜进讨汝南、陈国黄巾，追波才于阳翟，击彭脱于西华，并破之。西华，县，属汝南。余贼降散，三郡悉平。
又进击东郡黄巾卜己于仓亭，生禽卜己，斩首七千余级。时北中郎将卢植及东中郎将董卓讨张角，并无功而还，乃诏嵩进兵讨之。嵩与角弟梁战于广宗。今贝州宗城县。梁众精勇，嵩不能克。明日，乃闭营休士，以观其变。知贼意稍懈，乃潜夜勒兵，鸡鸣驰赴其陈，战至晡时，大破之，斩梁，获首三万级，赴河死者五万许人，焚烧车重三万余两，悉虏其妇子，系获甚众。角先已病死，乃剖棺戮尸，传首京师。
嵩复与钜鹿太守冯翊郭典攻角弟宝于下曲阳，又斩之。首获十余万人，筑京观于城南。杜元凯注《左传》曰：“积尸封土于其上，谓之京观。”即拜嵩为左车骑将车，领冀州牧，封槐里侯，食槐里、美阳两县，并属扶风。合八千户。
以黄巾既平，故改年为中平。嵩奏请冀州一年田租，以赡饥民，帝从之。百姓歌曰：“天下大乱兮市为墟，母不保子兮妻失夫，赖得皇甫兮复安居。”嵩温恤士卒，甚得众情，每军行顿止，须营幔修立，然后就舍帐。军士皆食，己乃尝饭。吏有因事受赂者，嵩更以钱物赐之，吏怀惭，或至自杀。
嵩既破黄巾，威震天下，而朝政日乱，海内虚困。故信都令汉阳阎忠干说嵩曰：干谓冒进。“难得而易失者，时也；时至不旋踵者，几也。故圣人顺时以动，智者因几以发。今将军遭难得之运，蹈易骇之机，而践运不抚，临机不发，将何以保大名乎？”嵩曰：“何谓也？”忠曰：“天道无亲，百姓与能。今将军受钺于暮春，收功于末冬。《老子》曰：“天道无亲，常与善人。”《易》曰：“人谋鬼谋，百姓与能。”《淮南子》曰：“凡命将，主亲授钺，曰：‘从此上至天，将军制之。’”兵动若神，谋不再计，摧强易于折枯，消坚甚于汤雪，旬月之闲，神兵电埽，封尸刻石，南向以报，威德震本朝，风声驰海外，虽汤武之举，未有高将军者也。今身建不赏之功，体兼高人之德，而北面庸主，何以求安乎？”嵩曰：“夙夜在公，心不忘忠，何故不安？”忠曰：“不然。昔韩信不忍一餐之遇，而弃三分之业，利剑已揣其喉，方发悔毒之叹者，机失而谋乖也。《前书》，项羽使武涉说韩信，信曰：“汉王解衣衣我，推食食我，背之不祥。”又蒯通说信，令信背汉，参分天下，鼎足而立。信曰：“汉王遇我厚，岂可背之哉？”后信谋反，为吕后所执，叹曰：“吾不用蒯通计，为女子所诈，岂非天哉！”今主上埶弱于刘、项，将军权重于淮阴，指撝足以振风云，叱咤可以兴雷电。“撝”即“麾”字，古通用。叱咤，怒声也。赫然奋发，因危抵颓，抵音纸。抵，击也。崇恩以绥先附，振武以临后服，征冀方之士，动七州之众，羽檄先驰于前，大军响振于后，蹈流漳河，饮马孟津，诛阉官之罪，除群凶之积，虽僮儿可使奋拳以致力，女子可使褰裳以用命，况厉熊罴之卒，因迅风之埶哉！功业已就，天下已顺，然后请呼上帝，示以天命，混齐六合，南面称制，移宝器于将兴，宝器犹神器也，谓天位也。推亡汉于已坠，实神机之至会，风发之良时也。夫既朽不雕，衰世难佐。若欲辅难佐之朝，雕朽败之木，是犹逆坂走丸，迎风纵桌，岂云易哉？且今竖宦群居，同恶如市，《左氏传》韩宣子曰：“同恶相求，如市贾焉。”上命不行，权归近习，昏主之下，难以久居，《史记》范蠡曰：“大名之下，难以久居。”不赏之功，谗人侧目，如不早图，后悔无及。”嵩惧曰：“非常之谋，不施于有常之埶。创图大功，岂庸才所致。黄巾细孽，敌非秦、项，新结易散，难以济业。且人未忘主，天不祐逆。若虚造不冀之功，以速朝夕之祸，孰与委忠本朝，守其臣节。虽云多谗，不过放废，犹有令名，死且不朽。二句皆《左传》之辞。反常之论，所不敢闻。”忠知计不用，因亡去。《英雄记》曰：“梁州贼王国等起兵，劫忠为主，统三十六部，号‘车骑将军’。忠感慨发病死。”
会边章、韩遂作乱陇右，明年春，诏嵩回镇长安，以卫园陵。章等遂复入寇三辅，使嵩因讨之。
初，嵩讨张角，路由邺，见中常侍赵忠舍宅逾制，乃奏没入之。又中常侍张让私求钱五千万，嵩不与，二人由此为憾，奏嵩连战无功，所费者多。其秋征还，收左车骑将军印绶，削户六千，更封都乡侯，二千户。