秦朝末年，人民苦于沉重的捐税、繁重的徭役和严酷的刑罚，纷纷揭竿而起。公元前206年10月，刘邦率领大军攻入关中，到达离秦朝皇都咸阳只有几十里的灞上。仅当了四十六天秦王的子婴，向刘邦投降。刘邦接受大将樊哙和张良的建议，下令封闭王宫，并留下少数士兵保护王宫和藏有大量财宝的库房，随即还军灞上。
为了取得民心，刘邦把关中各县父老、豪杰召集起来，郑重地向他们宣布道：“百姓苦于秦朝的严刑苛法已经很久了，应该全部废除。现在，我与父老乡亲们约法三章：一是杀人的判处死刑，二是伤人的治罪，三是抢劫的受罚。我到这里来，是为了替父老乡亲们除害，不是来侵害你们的，请大家放心。”父老乡亲们都表示拥护约法三章。
接着，刘邦又派人到各县各乡，将约法三章通告于百姓。百姓得知后都非常高兴，纷纷带着牛、羊、酒、食前来犒劳刘邦的军队。刘邦一再谦让不肯接受，说：“我们的军粮并不缺乏，不想再麻烦百姓了。”百姓们更加高兴，唯恐刘邦不做王。由于坚决执行约法三章，刘邦得到了百姓的信任、拥护和支持，最后取得天下，建立了西汉王朝。
成语“约法三章”即指规定出几条共同遵守的条款。约，协商，议定；章，指条目。