田畴成功北归后，他带领着整个宗族以及其他前来归附的数百人，在空地上郑重盟誓：“主公的大仇若不能报，我田畴便无颜活在这世上！”随后，他们一同进入徐无山，在山中一处地势险要且平坦开阔的地方安营扎寨，田畴亲自耕种，以此来奉养家中父母。
他的忠义之举和非凡才能吸引了众多百姓前来投奔，短短几年间，聚居的人数就达到了五千多家。田畴对这些百姓中的父老们说：“各位不嫌弃我田畴才能平庸，不远千里前来归附。如今大家聚集在一起，形成了一个规模不小的城邑，但如果没有统一的管理，恐怕难以长久安定。我希望大家能推选贤能德高的人来作为我们的首领。”众人纷纷表示赞同：“这主意不错！”经过商议，大家一致推举田畴为首领。
田畴却严肃地说道：“如今我们来到这里，并非只为了苟且偷安，而是要谋划大事，为死去的主公报仇雪恨。我担心在我们还未实现志向之时，一些轻薄之徒会相互侵犯欺侮，贪图一时之快，却没有长远的打算。我有一些不成熟的想法，想和大家一起施行，不知各位意下如何？”众人齐声回应：“当然可以！”于是，田畴制定了一系列法规，涵盖了相互杀伤、盗窃、争讼等方面，其中罪行严重的要判处死刑，稍轻一些的也要相应抵罪，总共二十多条。此外，他还制定了婚姻嫁娶的礼仪规范，兴办学校，开展讲学活动，并将这些制度和措施在众人中推行。大家都觉得这些规定十分便利，一时间，当地社会风气大为改善，甚至出现了路不拾遗的良好景象。
田畴的威名在北方边境地区迅速传播开来，乌丸、鲜卑等部落纷纷派遣使者，带着礼物前来进贡。田畴对他们一一安抚接纳，让这些部落不再侵扰边境。袁绍多次派遣使者前来征召田畴，还当即授予他将军印绶，希望他能安定和管理所统领的百姓，田畴全都坚决拒绝。袁绍死后，他的儿子袁尚又来征召田畴，田畴依旧不为所动，始终没有前往。
田畴一直对乌丸人曾经多次杀害本郡的官员和名士的行为愤恨不已，心中早就有讨伐他们的想法，只是当时力量不足。建安十二年，曹操决定北征乌丸。大军尚未抵达，曹操便先派遣使者征召田畴，同时命令田豫向田畴传达自己的意图。田畴得知消息后，立刻叮嘱门下的人赶快整理行装。他的门客十分不解，问道：“以前袁绍仰慕您的才华，五次以礼相邀，您坚守道义，始终不肯屈从；如今曹操的使者才来一次，您却好像生怕来不及回应一样，这是为什么呢？”田畴笑着回答道：“这其中的缘由，不是你能理解的。”说完，他便跟随使者来到曹操军中，被暂任为司空户曹掾。曹操接见他，与他商讨军事策略。
第二天，曹操发布命令：“田子泰这样的人才，不适合担任普通官职。”于是，曹操举荐田畴为茂才，并任命他为蓚县县令，但田畴并未前去赴任，而是随军驻扎在无终。当时正值夏季，雨水频繁，靠近海边的地方地势低洼，道路泥泞难行，乌丸的军队又在险要路口设下关卡，曹军无法前进。曹操为此忧心忡忡，便向田畴询问对策。
田畴思索片刻后说道：“这条路，每年秋夏时节都会积水，水浅的时候车马无法通行，水深的时候又无法行船，一直以来都是个难题。以前北平郡的治所在平冈，有条道路经过卢龙，可直达柳城。但从建武年间以来，这条路就已经塌陷毁坏，中断了将近两百年，不过现在还有一条小路可以通行。如今敌人认为我军必定会从无终进军，见我们无法前进只能后退，他们肯定会放松警惕，毫无防备。如果我们悄悄撤军，从卢龙口翻越白檀的险要之地，进入敌人防守空虚的区域，这条路既近又方便，我们便能出其不意地攻击敌人。如此一来，乌丸单于蹋顿的首级，不用经过激烈战斗就能轻易获取。”曹操听后，眼前一亮，称赞道：“好计策！”
于是，曹操下令撤军，并在水边路旁立下一块大木牌，上面写道：“如今正值暑夏，道路不通，暂且等到秋冬时节，再继续进军。”乌丸的侦察骑兵看到这块木牌后，信以为真，以为曹军真的已经撤离。曹操让田畴带领他的部众作为向导，大军先登上徐无山，再从卢龙口出发，历经平冈，登上白狼堆。此时，距离柳城只有二百多里，乌丸军队才惊慌失措地察觉到曹军的行动。
乌丸单于亲自率军迎战，曹操指挥大军与敌人展开激烈交战。这一战，曹军大获全胜，斩杀和俘虏了大量敌军，一路追击溃败的敌人，一直追到柳城。大军凯旋，进入关内后，曹操论功行赏，要封田畴为亭侯，食邑五百户。（据《先贤行状》记载，曹操上表论述田畴的功绩时说：“田畴不仅文采出众、学识渊博，而且忠诚勇敢，声名远扬。他对待下属宽厚温和，事奉上级谨慎恭敬，能够审时度势，行事进退都合乎道义。当初幽州陷入战乱，胡人和汉人杂居，百姓流离失所，无依无靠。田畴率领宗族众人到无终山避难，在北方据守卢龙，在南方扼守要害之地。他们在山中过着清静简朴的生活，耕种自给，百姓纷纷受到感化，追随于他，共同为他提供物资。后来袁绍父子的势力扩展到北方边境，与乌丸勾结，前后多次征召田畴，他始终坚守气节，不为所动。我奉命出征，驻军易县时，田畴主动前来，向我陈述讨伐乌丸的策略，就如同当年广武君为韩信献上攻燕之策、薛公为刘邦分析淮南王英布的局势一样。他还派遣部下拿着我军的檄文，去诱降胡人的部众，许多汉人百姓因此前来归附，乌丸军队听闻后惊恐不安。我军出征塞外，在山中行军九百多里，田畴亲自率领五百士兵，在山谷中为大军开路，最终成功消灭乌丸，平定了塞外。田畴文能安邦，武能定国，气节和忠义值得嘉奖，确实应该给予他恩宠和赏赐，以表彰他的功绩。” ）
然而，田畴却认为自己当初是为了躲避战乱，才带领众人逃到山中，本想为死去的主公报仇，树立忠义的志向，如今却因这件事获得封赏，这并非自己的本意。于是，他坚决推辞。曹操深知他心意诚恳，便答应了他的请求，没有强行赐予他爵位。（《魏书》记载曹操的命令说：“从前伯成放弃诸侯之位，夏禹没有强行改变他的决定，就是为了让高尚的贤士和优待贤才的君主，能够代代相传。就听从田畴的意见吧。” ）