但，杨坚并没有立刻就攻打陈国，584年的陈国，还没被陈叔宝彻底败完，加之有长江这道天堑，于是杨坚继续推行均田制和租调力役制，在中央建立三省六部制，在地方推行州、县制，改革府兵制等措施，以利于发展社会经济，加强中央集权，提高军队战斗力。
在585年（隋开皇五年，南陈至德三年，西梁天保二十四年），杨坚以清河公杨素为倌州总管，经略长江上游。同时在三年内，动员数十万人修缮朔方（治岩绿，今内蒙古乌审旗南白城子）、灵武（治回乐，今宁夏灵武西南）一带长城，并于朔方以东缘边险要，筑城数十，以加强北部边防，保障南进时后方无忧。
又在开皇七年（587年），废西梁后主萧琮，占领江陵，西梁亡。隋国的势力已经过了长江，