皇甫规自辞官归隐安定后，诸部羌人纷纷派人前来拜访，赠以重礼，皇甫规与其妻马氏一一退回，皇甫规之名更是响彻西凉诸郡，各郡才俊登门拜访者络绎不绝，如汉阳人阎忠、金城人边章，皆是当时西凉俊杰。
却也招致护羌校尉段颎不满，新怨旧恨相加一起，段颎接连上奏桓帝，举报皇甫规勾连羌人，广布威望，收揽人心，其心有异。桓帝接到奏报后，连番下诏斥责皇甫规，言辞激烈，皇甫规未免惧怕，先是向段颎请罪赔礼，而后又向桓帝诉明其中曲直，桓帝与段颎这才作罢。
皇甫规未免再生事端，只得终日闭门谢客，潜心致学，却也免不得时常唉声叹气。其妻马氏出生扶风马家，乃皇甫规继室，一手草书闻名遐迩，为当时才女，甚得赞誉。马氏早已从族兄马日磾处听闻洛阳之事，心中知晓皇甫规有所不甘，劝慰道：“老爷，今番业已离京，不必日夜担惊受怕，得偿所愿，安生度日才是，何必再横生枝节，徒增烦恼。”
“唉”，皇甫规叹息一声，缓缓开口道：“夫人有所不知，我皇甫规一生自负文武双全，自幼立志建不世之功，扬名天下，辞官避居，亦是不得已而为之；如今虽垂垂老矣，昔日抱负尚存于胸，怎奈时不与我，空有一身才干，却无处施展，难免心中一时落寞。”
马氏看着皇甫规郁郁寡欢，言语凄凉，低头不语，心中哀怜油然而生。马氏想起自己与皇甫规年岁相差甚大，奈何家中长辈为结好当时威名赫赫的皇甫规，强拉硬拽，将自己嫁于皇甫规续弦，本来心中尚有几丝幽怨；然而相处时日一长，发觉皇甫规文武兼备，并非世人口中的“西凉武夫”，不仅通晓兵事，且深谙兵、儒、道等多家学术经典，心中敬服，那几丝幽怨早已随风而去。
“依妾身之见，老爷既胸怀抱负，又一心为国，与其落寞闲居，聊度一生，倒不如于西凉开馆授徒，将一生才华授予后起之秀，亦可借机教化西凉羌人，减免战祸，造福天下百姓，舒缓心中不畅”，马氏见皇甫规终日无所事事，于府中哀怨自怜，出言劝道。
皇甫规思虑半晌，关东士人向来看轻西凉才俊，只知“西凉大马，横行天下”，却不晓凉州才俊饱受欺凌鄙夷，于朝堂上茕茕孤立，若是在西凉传授儒家大道，对祛除凉州人粗狂彪悍之气，大为有益，点头道：“夫人所言有理，我自入朝为官以来，坚信我西凉文士丝毫不亚于关东士卿，只不过地处偏远，又民风剽悍，羌人作乱，故而世人对我西凉人士颇有误解，若是能借开馆授学，教化百姓，亦是有益于子孙百姓，此事大有可为。”
“老爷身兼数家之长，定可教化良才，为国培育栋梁之才”，马氏见皇甫规面色舒缓，展颜一笑。
皇甫规忽而又眉头紧锁，担忧道：“昔日李膺也曾广授门生，引得陛下猜忌，若是我于西凉授学之事，为陛下所知，恐陛下心中又是不悦。”
马氏想起桓帝如此对待皇甫规，满心不忿，说道：“扶风马氏与安定皇甫氏素来名动西凉，何况老爷问心无愧，若是一味退让，只会让群小越发猖獗，肆意诬陷，老爷不可再退缩，免得他人以为皇甫家好欺。”
“好，明日我便于安定设立堂馆，授学传道，看他等还能如何”，皇甫规沉声说道。
当夜，皇甫规想起马日磾甚是赞赏侄儿皇甫嵩（字义真）有韬略，多番举荐皇甫嵩入朝为将，而如今朝堂混乱，自己不愿皇甫嵩入朝为官，便召来其皇甫嵩，将开设学馆之事告知，又悉心叮嘱道：“义真我知你心中不甘平庸，只是叔父担忧如今朝堂不宁，风声鹤唳，故而不愿你入朝为将，何况张奂、段颎、李膺等皆是名将，尚存于世，效力于朝，不如待日后我等故去，朝廷用人之际，再出仕为官不迟。”
皇甫嵩知晓皇甫规辞官归隐是为避祸，可是自己苦学兵法，怎愿就此平淡度日，几度张口欲言，终还是不敢违背皇甫规之意。
“叔父知你有将才，却不能施展一身才华，心中憋屈，只是你资历尚浅，且心浮气躁，若你今番应召入朝，锋芒太露，必然惹得陛下更为猜忌皇甫家，阉宦亦会趁机诬陷，皇甫一门便在劫难逃，倒不如潜心致学，磨砺品性，伺机而发”，皇甫规笑道。
皇甫嵩这才脸色舒缓，想起皇甫规令其子弃武从文，又是猜测道：“叔父令兄长不沾刀兵，深习儒道，莫非也是为避免天子猜忌？”
“不错，叔父不仅知晓兵事，也对古今学说多有涉及，故而让你兄弟二人一学文，一习武，日后你二人也可互补兼容”，皇甫规见皇甫嵩问起，便如实相告。
皇甫嵩自与皇甫规夜谈之后，终日在家埋头苦读兵书，闲暇之际，时常阅览黄老学术，以求修身养性，戒骄戒躁。而皇甫规也在凉州开设学馆，以《诗》、《易》教授门徒，并完善荀子学说，于当时率先提出‘百姓是水，君主为舟’的思想，以此警醒世人。直至皇甫规去世，皇甫学馆才废弃，然皇甫学馆共历经十四载，门生不下千人。