李孝伯，赵郡人也，高平公顺从父弟。父曾，少治《郑氏礼》、《左氏春秋》，以教授为业。郡三辟功曹不就，门人劝之，曾曰："功曹之职，虽曰乡选高第，犹是郡吏耳。北面事人，亦何容易。"州辟主簿，到官月余，乃叹曰："梁叔敬有云：州郡之职，徒劳人耳。道之不行，身之忧也。"遂还家讲授。太祖时，征拜博士，出为赵郡太守，令行禁止，劫盗奔窜。太宗嘉之。并州丁零，数为山东之害，知曾能得百姓死力，惮不入境。贼于常山界得一死鹿，谓赵郡地也，贼长责之，还令送鹿故处。邻郡为之谣曰："诈作赵郡鹿，犹胜常山粟。"其见惮如此。卒，赠平南将军、荆州刺史、柏仁子，谥曰懿。
孝伯少传父业，博综群言。美风仪，动有法度。从兄顺言之于世祖，征为中散。世祖见而异之，谓顺曰："真卿家千里驹也。"迁秘书奏事中散，转侍郎、光禄大夫，赐爵南昌子，加建威将军，委以军国机密，甚见亲宠。谋谟切秘，时人莫能知也。迁北部尚书。以频从征伐规略之功，进爵寿光侯，加建义将军。
真君末，车驾南伐，将出彭城。刘义隆子安北将军、徐州刺史、武陵王骏，遣将马文恭率步骑万余至萧城。前军击破之，文恭走免，执其队主蒯应。义隆闻大驾南巡，又遣其弟太尉、江夏王义恭率众赴彭城。世祖至彭城，登亚父冢以望城内，遣送蒯应至小市门宣世祖诏，劳问义恭，并遣自陈萧城之败。义恭等问应："魏帝自来以不？"应曰："自来。"又问："今在何处？"应曰："在城西南。"又问："士马多少？"应曰："中军四十余万。"骏遣人献酒二器、甘蔗百梃，并请骆驼。
世祖明旦复登亚父冢，遣孝伯至小市，骏亦遣其长史张畅对孝伯。孝伯遥问畅姓，畅曰："姓张。"孝伯曰："是张长史也。"畅曰："君何得见识？"孝伯曰："既涉此境，何容不悉。"畅问孝伯曰："君复何姓？居何官也？"孝伯曰："我戎行一夫，何足致问。然足与君相敌。"孝伯曰："主上有诏：'太尉、安北可暂出门，欲与相见，朕亦不攻彭城，何为劳苦将士，城上严备？'今遣赐骆驼及貂裘杂物。"畅曰："有诏之言，政可施于彼国，何得称之于此？"孝伯曰："卿家太尉、安北，是人臣不？"畅曰："是也。"孝伯曰："我朝廷奄有万国，率土之滨，莫敢不臣。纵为邻国之君，何为不称诏于邻国之臣？"孝伯又问畅曰："何至忽遽杜门绝桥？"畅曰："二王以魏帝壁垒未立，将士疲劳，此精甲十万，人思致命，恐轻相凌践，故且闭城耳。待休息士马，然后共治战场，克日交戏。"孝伯曰："令行禁止，主将常事，宜当以法裁物，何用废桥杜门？穷城之中，复何以十万夸大？我亦有良马百万，复可以此相矜。"畅曰："王侯设险，何但法令而已也。我若夸君，当言百万，所以言十万者，正是二王左右素所畜养者耳。此城内有数州士庶，工徒营伍犹所未论。我本斗人，不斗马足。且冀之北土，马之所生，君复何以逸足见夸也？"孝伯曰："王侯设险，诚如来言，开闭有常，何为杜塞？绝桥之意，义在何也？此城守君之所习，野战我之所长；我之恃马，犹如君之恃城耳。"城内有具思者，尝至京师，义恭遣视之，思识是孝伯。思前问孝伯曰："李尚书行途有劳。"孝伯曰："此事应相与共知。"思答曰："缘共知，所以仰劳。"孝伯曰："感君至意。"
既开门，畅屏人却仗，出受赐物。孝伯曰："诏以貂裘赐太尉，骆驼、骡、马赐安北，蒲萄酒及诸食味当相与同进。"畅曰："二王敬白魏帝，知欲垂见，常愿面接，但受命本朝，忝居藩任，人臣无境外之交，故无容私觌。"义恭献皮裤褶一具，骏奉酒二器、甘蔗百梃。孝伯曰："又有诏：'太尉、安北，久绝南信，殊当忧悒。若欲遣信者，当为护送，脱须骑者，亦当以马送之。'"畅曰："此方间路甚多，使命日夕往复，不复以此劳魏帝也。"孝伯曰："亦知有水路，似为白贼所断。"畅曰："君著白衣，称白贼也。"孝伯大笑曰："今之白贼，似异黄巾、赤眉。"畅曰："黄巾、赤眉，不在江南。"孝伯曰："虽不在江南，亦不离徐方也。"孝伯曰："向与安北相闻，何以久而不报？"畅曰："二王贵远，启闻为难。"孝伯曰："周公握发吐餔，二王何独贵远？"畅曰："握发吐餐，不谓邻国之人也。"孝伯曰："本邦尚尔，邻国弥应尽恭。且宾至有礼，主人宜以礼接。"畅曰："昨见众宾至门，未为有礼。"孝伯曰："非是宾至无礼，直是主人怱怱，无待宾调度耳。"孝伯又言："有诏：'程天祚一介常人，诚知非江南之选，近于汝阳，身被九枪，落在溵水，我使牵而出之。凡人骨肉分张，并思集聚，闻其弟在此，如何不遣暂出？寻自令反，岂复苟留一人。'"畅曰："知欲程天祚兄弟集聚，已勒遣之，但其固辞不往。"孝伯曰："岂有子弟闻其父兄而反不肯相见，此便禽兽之不若。贵土风俗，何至如此？"
世祖又遣赐义恭、骏等毡各一领，盐各九种，并胡豉。孝伯曰："有后诏：'凡此诸盐，各有所宜。白盐食盐，主上自食；黑盐治腹胀气满，末之六铢，以酒而服；胡盐治目痛；戎盐治诸疮；赤盐、驳盐、臭盐、马齿盐四种，并非食盐。太尉、安北何不遣人来至朕间？彼此之情，虽不可尽，要复见朕小大，知朕老少，观朕为人。'"畅曰："魏帝久为往来所具，李尚书亲自衔命，不患彼此不尽，故不复遣信。"义恭献蜡烛十梃，骏献锦一匹。
孝伯曰："君南土士人，何为著屩？君而著此，将士云何？"畅曰："士人之言，诚为多愧。但以不武受命，统军戎陈之间，不容缓服。"孝伯曰："永昌王自顷恒镇长安，今领精骑八万直造淮南，寿春亦闭门自固，不敢相御。向送刘康祖首，彼之所见王玄谟，甚是所悉，亦是常才耳。何意作如此任使，以致奔败。自入境七百余里，主人竟不能一相拒抗。邹山之险，彼之所凭，前锋始得接手，崔邪利便尔入穴，将士倒曳出之。主上丐其生命，今从在此。复何以轻脱，遣马文恭至萧县，使望风退挠也。彼之民人，甚相忿怨，言清平之时，赋我租帛，至有急难，不能相拯。"畅曰："知永昌已过淮南。康祖为其所破，比有信使，无此消息。王玄谟南土偏将，不谓为才，但以其北人，故为前驱引导耳。大军未至，而河冰向合，玄谟量宜反旆，未为失算，但因夜回归，致戎马惊乱耳。我家悬瓠小城，陈宪小将，魏帝倾国攻围，累旬不克。胡盛之偏裨小帅，众无三旅，始济翮水，魏国君臣奔散，仅得免脱。滑台之师，无所多愧。邹山小戍，虽有微险，河畔之民，多是新附，始慕政化，奸盗未息，示使崔邪利抚之而已。今虽陷没，何损于国。魏帝自以十万之师而制一崔邪利，乃复足言也？近闻萧县百姓并依山险，聊遣马文恭以十队迎之耳。文恭前以三队出，还走彼大营。嵇玄敬以百舸至留城，魏军奔败。轻敌致此，亦非所恤。王境人民，列居河畔，二国交兵，当互加抚养。而魏师入境，事生意外，官不负民，民亦何怨。知入境七百里，无相捍拒，此自上由太尉神算，次在武陵圣略。军国之要，虽不预闻，然用兵有机间，亦不容相语。"孝伯曰："君藉此虚谈，支离相对，可谓遁辞知其所穷。且主上当不围此城，自率众军直造瓜步。南事若办，城故不待攻围；南行不捷，彭城亦非所欲也。我今当南，欲饮马江湖耳。"畅曰："去留之事，自适彼怀。若魏帝遂得饮马长江，便为无复天道。"孝伯曰："自北而南，实惟人化。饮马长江，岂独天道？"畅将还城，谓孝伯曰："冀荡定有期，相见无远。君若得还宋朝，今为相识之始。"孝伯曰："今当先至建业以待君耳。恐尔日君与二王面缚请罪，不暇为容。"
孝伯风容闲雅，应答如流，畅及左右甚相嗟叹。世祖大喜，进爵宣城公。
兴安二年，出为使持节、散骑常侍、平西将军、秦州刺史。太安三年卒，高宗甚悼惜之。赠镇南大将军、定州刺史，谥曰文昭公。
孝伯体度恢雅，明达政事，朝野贵贱，咸推重之。恭宗曾启世祖广征俊秀，世祖曰："朕有一孝伯，足治天下，何用多为？假复求访，此人辈亦何可得。"其见赏如此。性方慎忠厚，每朝廷大事有不足，必手自书表，切言陈谏；或不从者，至于再三。削灭稿草，家人不见。公庭论议，常引纲纪，或有言事者，孝伯恣其所陈，假有是非，终不抑折。及见世祖，言其所长，初不隐人姓名以为己善。故衣冠之士，服其雅正。自崔浩诛后，军国之谋，咸出孝伯。世祖宠眷有亚于浩，亦以宰辅遇之。献替补阙，其迹不见，时人莫得而知也。卒之日，远近哀伤焉。孝伯美名，闻于遐迩。李彪使于江南，萧赜谓之曰："孝伯于卿远近？"其为远人所知若此。孝伯妻崔赜女，高明妇人，生一子元显。崔氏卒后，纳翟氏，不以为妻也。憎忌元显，后遇劫，元显见害，世云翟氏所为也。元显志气甚高，为时人所伤惜。翟氏二子，安民、安上，并有风度。