公元前206年，刘邦率领大军攻入关中，到达离秦都咸阳只有几十里路的霸上。子婴在仅当了46天的秦王后，向刘邦投降。刘邦进咸阳后，本想住在豪华的王宫里，但他的心腹樊哙和张良告诫他别这样做，免得失掉人心。刘邦接受他们的意见，下令封闭王宫，并留下少数士兵保护王宫和藏有大量财宝的库房，随即还军霸上。为了取得民心，刘邦把关中各县父老、豪杰召集起来，郑重地向他们宣布道：秦朝的严刑苛法，把众位害苦了，应该全部废除。现在我和众位约定，不论是谁，都要遵守三条法律。这三条是：杀人者要处死，伤人者要抵罪，盗窃者也要判罪。父老、豪杰们都表示拥护约法三章。接着，刘邦又派出大批人员，到各县各乡去宣传约法三章。