杨坚称帝后，在国内进行一番大刀阔斧的改革。
在教育部官员崔仲方的建议下，杨坚首先撤销了北周时的六官政治制度，恢复汉魏实行的制度，大规模改组政府，设立三师（太师、太傅、太保）、三公（司徒、太尉、司空）、及尚书省（中央政府）、门下省（监察院）、内史省（立法院），秘书省、内侍省等五院，御史、都水、太常等十一部，左右翼禁等十二个司令部，又设勋官、上柱国、都督等十一级，用以奖励有功将领，散官特进到朝散大夫七级，用以加授有德望的文武官员，把侍中改作纳言，任命相国府军政官高颎当左副行政长官、兼总监察长，相国府审理官虞庆当立法院首席立法长、兼文官部长，相国府主任参谋李德林，当次席总立法长。
之前北周和北齐两国铸造的钱币，共有四等，而民间私自制造的钱币，名称更多，轻重也不一样，杨坚重新铸造五铢钱，阴面、阳面、钱体、钱孔都有凸起的周边，一千钱重四斤二两，古钱和私钱一律禁止，把样品放到关卡要道，凡与样品不同的钱，由政府没收销毁，从此钱币全国统一。
北周时期的法律比起北齐的法律繁复而不精密，杨坚让高颎、郑译及上柱国杨素、太子宫康乐管理官裴政，一起重新修订。
裴政对过去的文物制度十分熟习，对政治运作也都了解，上自魏晋，下到齐梁，研究参考他们的演变和量刑轻重，采取适当的调整，同时参与实际修改刑法的有十余人，凡是遇到疑难问题不能解决，都请裴政裁定。
经过这些人的不懈努力，杨坚最终批准废除前世的枭刑、轘刑、鞭刑，除非犯谋反以上的大罪，都不没收家产或屠杀全族，简化刑罚为：死刑、流刑、徒刑、棍刑、笞刑。
其中死有绞死和斩首两种，流刑有二千里、二千五里、三千里共三种，徒刑有一至三年共五等，棍刑有六十棍到一百棍共五种，笞刑有十竹板到五十竹板共五等。
同时拟定八议法，也即免刑或减刑的条件，共八种，分别是议亲、议故、议贤、议能、议功、议贵、议勤、议实。
议亲即皇帝的亲戚，议故皇帝的故友，议贤即为人贤德，议能即有特殊才能，议功即对国家有很大贡献，议贵即位高权重，议勤即工作勤奋，议实即做人诚实，凡符合其中一条的，都可以申请免刑或减刑，当然由相关部门负责审查，有专门的细则提供参考。
同时废除前朝对被告所用的酷刑，拷打时不准超过二百竹板，枷的大小、棍的粗细，都有固定的格式，人民受到冤枉