北周末期，赵绰就已经入朝为官。最开始他担任的是天官府史一职，后来由于工作勤恳、谦恭守礼，被提拔为下官府下士。

公元581年，杨坚听说赵绰为官清廉、公正严明，便将他聘为大理丞。赵绰果然没让人失望，他坚持秉公执法、公正廉洁，北周考核官员政绩，他一直是上上等。所以很快升任大理正；再后来，又接连升任尚书都官侍郎、刑部侍郎。杨坚为了表彰其在梁士彦等案的贡献，便赐给赵绰三百段布帛等物、十名奴婢和二十匹马。