秋，从操伐袁绍。修仁之战，沮授成擒，勋责以大义，说授降，又献计使董昭伪作授书于授子鹄，书多涂抹，射入邺城中。时审配守邺，刑法严苛，军将多不满，伪书至，人各相疑，城内大乱，冯礼献城南突门以降，配侄审荣擒配，遂克。
分并州西为朔州，操以州新立，兼之胡汉间杂，颇难管理，而勋在河东时善抚匈奴，乃署以朔州刺史。初，呼厨泉以部曲五十人赠勋，勋解衣衣之，推食食之，收众虏心，至是，乃遣返部，扇摇族人，使之归附朝廷，以图匈奴王庭，旬月间即得二万骑。勋检精骑一万，命郭淮等编练之，屯兵圜阴北，筑城以窥单于庭。匈奴长老厚赂鲜卑，使寇。勋侦知之，乃阴为之备而外示衰弱。鲜卑来破屯堡，伏兵以火药引草垛烧之，死者太半，三大报酬擒。勋许以良马牛羊来赎，得马六千，牛羊万余。
曹操肇建魏国，以勋为中书令。勋乃更定官制，收处所之临时使镇抚得力，因立三台三省十二部，郡县吏皆吏部委任，守令不得私辟。时吏部尚书陈群建九品中正制，而勋以吏员多阙，乃献科举策，使中正举人与科考并用。
操乃拔军返许，拜勋侍中，与夏侯渊将二千骑往督吕布、段煨等进讨李、郭汜。先是，勋为操计授吕布以并州，拮抗袁绍，后更之凉州，为使布远，无可与操相争也。至是，勋宣密诏于布，讽彼扫荡关中诸将。西京旋克，布亦统兵西向，勋以功拜关内侯。于时重开太学，勋建言立石经于许，三岁而成，是为建安石经也。
汉主在许，咨郗虑、华歆等以禅礼。时曹昂为魏太子、曹德为太仆，颇惊惧，约与勋并至许都，以谏汉主。少府耿纪、司直韦晃、太医令吉本为乱，挟前尚书令荀，欲劫汉主及二曹，矫诏以害曹操。先是，勋直入宫中，知乱起，乃与曹皇后同谋，之前任侍中，德望犹在，遂控御尚书台并郎卫官，与部曲亲护汉主。纪、晃等逼宫，荀不肯从贼，撞死殿上，贼遂并为勋所执。恐彼等或攀污汉主，乃不请命而尽诛之。自是，曹操代汉之志坚矣，唯勋以“东南不决，益、凉未平，此非当时”为言，时刘备亦据蜀中，觊觎非份，操乃缓之。
“司空曹操，相国苗裔，公侯冢子，乃奉先君之成业，荷炎刘之重恩。宋微子之兴悲，良有以也；桓君山之流涕，岂徒然哉？是用愤恚风云，志安社稷。因天下之所望，顺宇内之推心，爰举王帜，誓清妖氛。东连徐方，西尽雍凉，铁骑成群，玉轴相接。海陵红粟，仓储之积靡穷；江浦黄旗，匡复之功何远？班声动而北风起，剑气冲而南斗平。喑呜则山岳崩颓，叱咤则风云变色。以此制敌，何敌不摧；以此攻城，何城不克！
是仪以青州不靖，融亦无守境之能，虑异日祸将延己，乃遣子著、纡、峻等及勋南下琅邪，以营其窟。时仪中子宽游学徐方，曹宏、豹兄弟为州吏，与之相善，乃请豹女许勋，为固是氏也。
六年，曹操进位丞相，以勋为丞相司直，巡刺海、徐，很有所保举，又于广陵荐华佗为丞相府医曹掾。勋旧客吴质荐为广阳长，以输铁器入鲜卑，为校事赵达构陷，勋切身往讼，洗质之冤，又谏操以校事位卑权重，需善简良吏，不成使太阿倒持。达终以构陷大臣及它枉法共七十三事弃市，人皆称庆。