山西并州是狄仁杰的家乡，在这一任内狄仁杰通晓了吏治、兵刑等封建典章和法律制度，这对他一生的政治活动产生了重大影响。
狄仁杰在这里恪尽职守，深受百姓爱戴，当地人为他修建了生祠，年年祭祀。
由于在地方做官功绩显著，公元675年，狄仁杰被调入长安任大理寺丞，开始施展他侦探断案的卓越才干。
此时的大理寺积压的旧案非常多，监狱人满为患，并且大理寺中的案件大多属于京城的大案要案，很多案件都涉及到皇亲和高官，十分难以审理。
狄仁杰夜以继日，兢兢业业，刚正不阿，一年之中共审理了17000多人，将多年来积压的案件审理一清，并且没有一个人上访申诉。
后人所写的传奇小说，如《狄仁杰传奇》、《狄公案》等，大都根据这一段时间的案情所作。
一次，武卫大将军权善才在负责守卫唐太宗的昭陵时，误砍了昭陵长孙皇后墓园里的柏树，这在当时可是大不敬之罪。
狄仁杰审理之后，按律判权、范两人应当免职，判决结果送到唐高宗那里后，唐高宗勃然大怒，一定要处死权善才。
但依照当时的法律，权善才罪不至死，于是狄仁杰上表反对，说太宗皇帝制订大唐律是为了让后人遵守的，如今权、范二人按法律规定不应当处死，陛下却硬要*他们，那么您将先帝亲手制订的法律放在何处呢？难道您这样做就是孝顺吗？问得高宗张口结舌。
狄仁杰接着说："汉朝时有人偷了高庙玉环，文帝要诛*他的九族，张释之在朝廷上抗争说：'假如取了长陵一块土，用什么法来处罚呢?'于是只判处*了他一个人。犯了不该死的罪却处死他们，为什么呢?现在误伐了一棵柏树，*了两个大臣，后世人觉得您是什么样的帝王呢?"
高宗听了以后怒气消去了很多，最终免除了他们的死罪，同意维持大理寺的原判。
而这件事也让唐高宗更加赞赏狄仁杰的忠贞和胆识，他下诏将此事编入国史
并且对狄仁杰说："卿能守法，朕有法官，仁杰为善才正朕，岂不能为朕正天下耶！"
后来唐高宗在洛阳的时候，有个大臣为了讨好唐高宗，在洛阳修一个长廊。
狄仁杰知道以后就上书高宗，说这个人不怀好意，我们国家现在是大治的时候，他建这些东西是故意引诱你走向奢靡腐败的道路，应该处分他。
开始唐高宗想不通，后来狄仁杰用很多例子，将高宗与尧舜一样的明君相比，讲了很多道理，最后高宗听从了狄仁杰的建议将这个大臣撤职了
狄仁杰敢于在皇权面前据理力争，不但没有遭到皇帝制裁，反而委以重任。
那么，接着下来狄仁杰还有哪些出人预料的惊人之举呢，皇帝还会听从他吗？
狄仁杰被唐高宗任命为侍御史，负责查讯案件，纠劾百官。
公元679年正月，发生了一件震动朝野的大事，深受唐高宗宠信的司农卿韦弘机被狄仁杰弹劾而罢官。
韦弘机滥用百姓上缴的赋税教唆皇帝追求奢侈享乐，曲意逢迎，他在洛阳整修了隋朝留下的旧宫殿，还新建了宿羽、高山、向阳等宫，极度壮丽奢华。
这件事为正直人士所不齿，狄仁杰对他深恶痛绝，决心铲除这个谄媚的奸臣。
但韦弘机在当时深受皇帝宠信，仅以此来扳倒他是十分困难的，为此，狄仁杰决定从其他方面入手。
通过深入地调查，狄仁杰发现其家人有盗取官府资财的嫌疑，韦弘机的家人在其主持营建宫殿期间，利用其经手巨额资财之便盗取官资，韦弘机自然脱不了干系。
狄仁杰掌握了大量证据后，上奏高宗，两罪一起弹劾，迫使高宗将其免官除名。
